Каждое обращение к облачной модели — это токены запроса плюс токены ответа. В запрос уходит не только вопрос пользователя, но и инструкции, история диалога и найденные документы, если работает RAG. Всё это должно поместиться в контекстное окно: на сентябрь 2026 года у Alice AI LLM и GigaChat 2 Max это 128 тыс. токенов, у YandexGPT 5 — 32 тыс.

Три детали, которые сильнее всего влияют на счёт:

• Выход бывает дороже входа. У Alice AI LLM 1 000 входящих токенов стоит 0,5 ₽, исходящих — 1,2 ₽ (с НДС), в 2,4 раза дороже. У GigaChat цена за токен единая, у YandexGPT Lite и Pro 5.1 вход и выход тоже стоят одинаково.
• Токены рассуждения. Reasoning-модели перед ответом «думают» скрытыми токенами. Вы их не видите, но они занимают контекст и оплачиваются как выходные — короткий ответ может стоить как длинный.
• Кэширование. Повторяющееся начало запроса провайдер может закэшировать: у OpenAI кэшированный вход дешевле до 90%, и работает это автоматически. Поэтому неизменную часть запроса выгодно ставить в начало.

Типовой ответ ассистента: инструкции — 1 000 токенов, история диалога — 2 000, вопрос — 100, ответ — 300. На Alice AI LLM это 3 100 входящих × 0,5 ₽ + 300 исходящих × 1,2 ₽ за тысячу ≈ 1,9 ₽ за ответ. 10 000 таких ответов в день — около 19 тыс. ₽ в день, примерно 570 тыс. ₽ в месяц. На GigaChat 2 Lite (0,065 ₽ за 1 000 токенов) тот же объём обошёлся бы примерно в 66 тыс. ₽ в месяц. Цифры условные, тарифы — на сентябрь 2026 года, с НДС.

Следствие для бюджета: счёт растёт вместе с трафиком и длиной контекста. Ассистент «в лоб», где каждый вопрос летит в модель с полной историей, дорожает по мере успеха.

Типовые запросы решать без генерации — сценариями и кэшем. Контекст передавать выборочно, а не «всю переписку». Дорогие модели включать точечно (разбор лестницы уровней — в инсайте). Радикальный вариант — локальная модель: платы за токены нет, но есть расходы на железо и поддержку.

Если счёт за AI уже кусается — с аудита маршрута запросов: какая доля обращений реально требует модель. Основная экономия обычно там, а не в переходе на модель подешевле.

Так устроен Sigma.AI — ассистент продуктового маркетплейса. Типовые сценарии отрабатывают по детерминированной логике (до 6 секунд), популярные рецепты — из кэша (около 4 секунд), и ни те ни другие не тратят ни одного токена. Нетиповые запросы обрабатывает собственная локальная модель — платы за сообщение нет, есть отдельный сервер 4 CPU / 8 ГБ. Gemini и OpenAI подключены только для отдельных сценариев через оркестрацию в n8n — и только там счёт идёт в токенах. Подробнее — в кейсе Sigma.AI.