У языковых моделей есть два врождённых недостатка, которые убивают их пользу для бизнеса.
Первый: модель не знает ваших данных. GPT прочитал половину интернета, но понятия не имеет, какие товары у вас на складе, что написано в вашем договоре поставки и почём у вас сыворотка для волос. Второй: когда модель чего-то не знает, она не молчит — она уверенно сочиняет. Это называется галлюцинацией (про неё у нас есть
отдельная статья), и в продукте это не милый баг, а прямой ущерб: ассистент, который советует клиенту несуществующий товар, хуже, чем никакого ассистента.
RAG лечит обе болезни одним движением: прежде чем модель откроет рот, система находит в вашей базе нужные фрагменты и говорит: «отвечай на основе вот этого». Модель перестаёт фантазировать, потому что ей больше не нужно — у неё перед глазами факты.
Как это работает: запрос → поиск по базе знаний → найденные фрагменты + запрос → LLM → ответ с опорой на данные.