Галлюцинация
Правдоподобный, но неверный или неподтверждённый ответ модели. Уверенный тон ответа не означает, что информация проверена.
На практике
Типичный пример — уверенно названная книга, которой не существует, или ссылка с выдуманным адресом. Модель продолжает текст по усвоенным закономерностям и может создавать правдоподобные детали без подтверждения.
Что учитывать
Просьба отвечать уверенно не повышает достоверность. Для проверяемых фактов полезны первоисточник, цитируемый фрагмент и отдельная проверка того, что источник действительно подтверждает ответ.