LLM (Large Language Model, большая языковая модель) — это нейросеть, обученная на огромных массивах текста предсказывать следующее слово. Из этой простой способности вырастает всё, что мы называем «искусственным интеллектом»: ответы на вопросы, написание текстов и кода, анализ документов. GPT, Claude, Gemini, YandexGPT — всё это LLM. Для бизнеса LLM — это «мозг», вокруг которого строятся ассистенты, агенты и автоматизация.

Это формальное определение. Теперь — как я объясняю это заказчикам на первой встрече.

Снимем магию сразу: LLM не «думает» и не «понимает» в человеческом смысле. Она делает одну вещь — невероятно хорошо предсказывает, какое слово должно идти следующим. Как автодополнение в телефоне, только обученное на триллионах слов и с миллиардами параметров.

Фокус в том, что на определённом масштабе это «автодополнение» начинает выглядеть как мышление: модель продолжает юридический договор юридическим языком, код — рабочим кодом, а вопрос о ценах — ответом о ценах. Для бизнеса не так важно, «настоящий» это интеллект или нет. Важно, что это работает — если правильно приготовить.

«Правильно приготовить» — ключевые слова. За два года внедрений я не видел ни одного проекта, где модель «из коробки» решила бизнес-задачу. И видел много, где она в одиночку создавала проблемы.

Умеет, проверено на наших проектах: понимать запрос человека в свободной форме («хочу что-то лёгкое на ужин» — это задача, которую до LLM интерфейсы не решали никак); генерировать связный текст — от ответа поддержки до описания товара; извлекать смысл из хаоса — разбирать письма, документы, отзывы на структурированные данные; писать и объяснять код.

Не умеет без обвязки: знать ваши данные (для этого нужен RAG — у нас есть отдельная статья), гарантировать точность (модель сочиняет, когда не знает, — это называется галлюцинацией), совершать действия (для этого модель оборачивают в агента), помнить ваш прошлый разговор без специально спроектированной памяти.

Заметьте закономерность: сама модель — процентов двадцать решения. Остальные восемьдесят — инженерия вокруг неё. Именно поэтому «подключим ChatGPT» и «внедрим AI в продукт» — это очень разные по результату вещи.

LLM — в центре, вокруг — обвязка: RAG (знания), агент (действия), кэш (скорость), базы (память).

Классический выбор: облачная модель (GPT, Claude, Gemini — платишь за токены, данные ходят наружу) или локальная (живёт на вашем сервере — данные не покидают контур, платишь за железо). Обычно этот выбор преподносят как «или-или». По нашему опыту, правильный ответ чаще — «и то, и другое, и поменьше обоих».

В Sigma.AI, ассистенте продуктового маркетплейса, мы развели запросы по уровням: типовые сценарии — подборки, квизы — отрабатывают вообще без модели, по детерминированной логике и кэшу, за 4–6 секунд и ноль токенов. Генерация работает на локальной модели с собственным эмбеддингом — запросы пользователей идут параллельно, без очередей и без оплаты за каждое сообщение. Внешние модели подключены точечно, только там, где их сила реально нужна. После оптимизации весь AI-контур уместился на сервер скромнее, чем у среднего интернет-магазина.

Мораль для вашего бюджета: счёт за LLM — это не данность, а следствие архитектуры. Хороший инженер сначала думает, как НЕ вызывать модель, и только потом — какую.

Не с выбора модели — это последнее решение, и оно обратимо: модель в грамотной архитектуре меняется без переписывания продукта. Начните с вопроса, за который платит ваш бизнес: какой процесс сжирает часы людей или теряет клиентов? Если ответ есть — первый работающий сценарий запускается за несколько недель и дальше растёт итерациями. Если ответа нет — честно, вам пока не нужна LLM, и мы первые вам это скажем.

Sigma.AI — ассистент продуктового маркетплейса Sigma.Market: собирает корзину из товаров, которые есть на складе.