Потому что её этому не учили. LLM предсказывает следующий токен (что такое LLM) — у неё нет встроенной проверки «это факт или моя фантазия». В сентябре 2025 года исследователи OpenAI показали вторую причину: обучение и тесты моделей поощряют угадывание. Модель, которая отвечает «не знаю», на тесте получает ноль. Модель, которая угадала, получает балл. Так модели и учатся уверенно отвечать там, где стоило бы промолчать.

Вопрос «почём у вас сыворотка для волос» получит ответ с ценой в любом случае: либо из данных, которые модели дали, либо из воздуха. Снаружи эти два ответа неотличимы — в этом и проблема.

Условный пример. Покупатель спрашивает ассистента магазина: «Есть безлактозное молоко?» Модель без доступа к складу отвечает: «Да, 1 л за 119 ₽, добавить в корзину?» Молока нет, цена выдумана. Клиент получил обещание, бизнес — отменённый заказ и жалобу. Поэтому в клиентских сценариях галлюцинации — не «милый баг», а прямой ущерб, и бороться с ними нужно архитектурой, а не промтом «пожалуйста, не выдумывай».

Не с выбора «модели, которая не врёт», — такой нет. Начните с вопроса, какие ответы вашего ассистента критичны, и держите их вне генерации. Это проектное решение — как мы его принимаем, описано на странице AI-разработки.

В Sigma.AI — ассистенте продуктового маркетплейса Sigma.Market — рекомендации строятся по каталогу, где каждый ингредиент привязан к складской позиции, а цены и наличие берутся из базы с актуальными данными. Типовые сценарии и популярные рецепты обходятся без генерации. Локальная модель включается только для новых нетиповых запросов — там ошибка в формулировке возможна, но цену и остаток модель не придумывает: их показывает база. Подробнее — в кейсе Sigma.AI.