Галлюцинации нейросети — уверенные, но выдуманные утверждения в ответе нейросети: несуществующие факты, цифры, цитаты и ссылки.
Галлюцинации нейросети (AI hallucinations, галлюцинации ИИ, галлюцинации LLM) — это уверенные, но выдуманные утверждения в ответе языковой модели: несуществующие факты, цифры, цитаты, ссылки, функции программы, которые звучат правдоподобно.
Галлюцинации нейросети простыми словами
Это не намеренный обман: модель генерирует вероятное продолжение текста и не сверяет его с фактами. Если в запросе нет нужной информации, модель додумывает её и выдаёт с той же уверенностью, что и известные ей факты.
Почему нейросеть выдумывает
Чаще галлюцинации возникают на редких и узких темах, когда в запросе нет нужных данных, при работе с точными числами, датами, именами и ссылками. Если промпт подталкивает её ответить любой ценой, ошибки учащаются.
Галлюцинации в арбитраже трафика
Цена ошибки здесь конкретна. Когда LLM пишет тексты объявлений и лендингов, она может выдумать условия оффера, размер выплаты, наличие лицензии, медицинское свойство товара. Такой текст ведёт к отклонению модерацией, претензиям рекламодателя и юридическим рискам.
Как снизить число галлюцинаций
Модели дают источник прямо в запросе, в том числе через RAG, и просят отвечать только по нему с указанием, откуда взят факт. Ей разрешают отказаться от ответа. Числа и названия проверяют отдельным шагом или вручную. Полностью галлюцинации не устраняются. Текст объявления перед запуском сверяют с условиями оффера и с правилами рекламных площадок.