Чому відповіді ШІ треба перевіряти: Claude вигадав неіснуюче дослідження
Хах, засада ))
Все що видає будь-яка ллм треба перевіряти, хоча б іншою ллм, якщо на тій інформації щось грунтується ) факт чекінг прям обовʼязковий.
На днях Клод мені вигадав наукове дослідження, якого не існує. Коли я попросив по його номеру посилання для ознайомлення, то виявилось, що він об’єднав три дослідження в одне і зробив трохи некоректні висновки. Тобто, не все прям вигадав, але правда була не зовсім такою. Тому - даблчек.
Довідка
Галюцинація ШІ — коли модель упевнено видає вигадані факти — неіснуючі дослідження, цитати чи посилання — подаючи їх як справжні.
Сподобалось? Це лише один пост. Більше думок про ШІ, технології й творчість — щодня в каналі.
Підписатися в Telegram