Почему чат-бот не окупается даже с хорошей LLM

Чат-бот может стоить дорого не потому, что LLM отвечает плохо, а потому, что ей поручили не ту работу. Если у компании нет понятной метрики, актуальных данных и выстроенного процесса поддержки, искусственный интеллект просто масштабирует существующий беспорядок — вместе со стоимостью токенов.

Сначала — проблема, потом бот

Фраза «у всех уже есть AI-ассистент» не является бизнес-задачей. До разработки нужно зафиксировать базовые показатели: сколько обращений приходит, сколько времени занимает их обработка, где возникают задержки и какой результат должен измениться.

В статье приведён показательный пример: интернет-магазин потратил больше миллиона рублей на чат-бота, которым пользовались примерно 100 раз в месяц, а успешно решались только 2% запросов. В пересчёте на один результат дополнительный оператор оказался бы дешевле.

Поэтому начинать разумнее с двух-трёх частых и рутинных сценариев — например, статуса заказа или ответа на типовые вопросы. Если бот не влияет на стоимость обработки, скорость ответа, продажи или нагрузку команды, это не автоматизация, а дорогая витрина.

База знаний сама себя не обновит

LLM не знает, какие цены, правила и остатки актуальны именно сегодня. Если просто загрузить в неё старый PDF, она может уверенно выдать несуществующую скидку. Если у неё нет доступа к CRM, складской системе или трекингу доставки, она будет заменять реальный ответ вежливой заготовкой.

Значит, качество ассистента определяется не только моделью. Нужны регулярное обновление базы знаний, проверенные источники и интеграции с системами компании. Для критичных ответов безопаснее использовать утверждённые шаблоны, а не надеяться на свободную генерацию.

Это же объясняет, почему запуск — не финальная точка. Диалоги нужно анализировать, ошибки разбирать, контекст актуализировать, а сценарии постепенно расширять. Бот, которого выпустили и забыли, со временем начинает отвечать на вчерашнюю реальность.

Человек в контуре — не признак провала

У пользователя всегда должен быть короткий путь к оператору. Если бот не уверен в ответе или зациклился, диалог следует передать человеку вместе с историей переписки, а не заставлять клиента повторять всё заново.

Важно и то, как проект воспринимают сотрудники. Когда AI внедряют под лозунгом «сократим операторов», команда начинает перепроверять ответы и дублировать работу. Формально тикеты закрываются, но нагрузка не уменьшается. Бот должен снимать рутину, а не превращать сотрудников в контролёров каждой его фразы.

Что обязательно посчитать до запуска

Главные ограничения здесь вполне приземлённые: стоимость владения включает не только разработку, но и запросы к LLM, интеграции, поддержку и регулярные доработки. На тестовых бесплатных лимитах экономика может выглядеть хорошо, а после масштабирования — резко ухудшиться.

Нельзя забывать и о безопасности. Передача номеров телефонов, данных заказов, платёжной информации или документов во внешнюю облачную LLM требует отдельной оценки рисков. Там, где возможно, данные нужно обезличивать, а доступ к чувствительной информации — ограничивать.

Практический вывод простой: сначала выберите процесс, где есть измеримая боль, затем проверьте данные, интеграции, стоимость одного успешно решённого диалога и сценарий эскалации. И только после этого выбирайте модель и пишите промпты.

Если бы вам пришлось запускать чат-бота завтра, какой один процесс вы бы отдали ему — и по какой цифре через месяц решили бы, что эксперимент удался? Источник: Все статьи подряд / Искусственный интеллект / Хабр