Чем отличаются чат-бот, ИИ-ассистент и ИИ-агент
В коммерческих предложениях эти слова смешивают, поэтому сначала договоримся о терминах. Разница не в том, насколько «умно» звучит текст, а в том, кто решает, каким будет следующий шаг, и что системе разрешено делать.
Языковая модель сама по себе только генерирует текст. Чтобы действовать, ей нужны инструменты. При вызове инструментов модель ничего не запускает: она возвращает структурированный запрос (имя инструмента и аргументы), а ваше приложение решает, выполнять ли его, и возвращает результат. Этот факт определяет всю схему безопасности ниже: ключи хранит ваш код, а не модель.
- Сценарный чат-бот: кнопки, меню и фиксированные ветки, иногда с поиском по ключевым словам. Каждый путь написан человеком. Предсказуем, легко тестируется, но не справится с вопросом, которого никто не предусмотрел.
- ИИ-ассистент: языковая модель, которая отвечает свободным текстом, обычно по промпту и набору документов. Он разговаривает, но ничего не меняет в ваших системах. Худший случай: неверный ответ.
- ИИ-агент: модель в цикле с инструментами. Он читает запрос, выбирает инструмент (найти заказ, создать задачу, обновить сделку), смотрит результат и решает, что делать дальше, пока цель не достигнута или дело не передано человеку. Худший случай: неверное действие.
- Гибрид: так устроено большинство рабочих систем. Сценарий ведёт рутину, модель берёт свободный текст и нестандартные случаи, а рискованные действия ждут клика человека.
Когда хватит сценарного бота, а когда ИИ-агент окупается
Об этом продавцы молчат. Если бот отвечает на одни и те же два десятка вопросов, принимает заявку, показывает статус заказа и записывает на время, агент вам не нужен. Сценарий не стоит денег за каждое сообщение, ведёт себя одинаково и читается новым разработчиком за вечер.
Агент добавляет счёт за модель на каждое сообщение, недетерминированное поведение и новый класс сбоев. Платить за это стоит, только когда сценарий действительно не справляется. Вопрос в свободной форме, на который отвечает список кнопок, таким случаем не считается. Что умеет обычный бот, смотрите в обзоре Telegram-бот для бизнеса.
Агент нужен там, где на входе свободный текст, а правильное действие зависит от контекста: клиент пишет длинное сообщение, где вопрос, номер заказа и жалоба вперемешку; лид описывает задачу своими словами; для ответа по обращению нужны факты из трёх систем.
Даже тогда начинайте узко: одна задача, небольшой набор инструментов, понятная передача человеку. Первый агент, который классифицирует обращение и готовит черновик ответа для оператора, это полноценный продукт, а не полумера. Для рутинных потоков между системами без свободного текста лучше подходят конструкторы процессов или обычный код интеграции; сравните в статьях n8n или свой код и автоматизация бизнес-процессов.
- Запросы приходят из небольшого стабильного набора, и меню или форма их закрывают.
- Ответ должен быть точным и одинаковым каждый раз: цены, юридические условия, статус заказа. Это запрос в базу, а не сгенерированный текст.
- Действие рискованное или необратимое (возврат денег, удаление данных, смена доступа), и решать всё равно человеку.
- Объём небольшой, и один сотрудник справляется без труда.
- Процесс пока нельзя описать на бумаге. Автоматизация процесса, который никто не может объяснить, лишь автоматизирует путаницу.
- Некому каждую неделю разбирать диалоги и править систему.
Как безопасно дать ИИ-агенту инструменты
Относитесь к агенту как к недоверенному сотруднику в первый день. Модель может ошибиться, а чужой текст способен ею управлять: в списке рисков OWASP для LLM-приложений среди главных названы внедрение промптов (prompt injection) и чрезмерная самостоятельность (excessive agency). Сообщение клиента, веб-страница или документ в базе знаний могут содержать инструкции, адресованные модели. Поэтому безопасность нельзя поручать промпту. Она живёт в коде вокруг модели.
Каждый инструмент это обычная функция бэкенда со своей валидацией, правами и тестами. Модель лишь предлагает вызов, а ваш сервис проверяет его так же, как запрос от недоверенного клиента.
- Минимум прав: давайте только те инструменты, что нужны задаче. По умолчанию только чтение; инструменты записи добавляйте по одному и как можно уже («добавить заметку в сделку», а не «выполнить любой запрос к CRM»).
- Действовать от имени пользователя, а не системы: инструмент работает с правами человека из диалога. Используйте вашу модель ролей и прав доступа, мастер-ключ агенту не выдавайте.
- Проверка аргументов на сервере: типы, диапазоны, допустимые значения, принадлежность объекта. Идентификаторам и суммам от модели не доверяйте.
- Подтверждение рискованных действий: платежи, возвраты, удаление, массовые рассылки и внешние письма ждут явного одобрения человека, например нажатия инлайн-кнопки оператором в Telegram.
- Идемпотентность и повторы: модель может вызвать инструмент дважды. Используйте ключи идемпотентности, как в статье идемпотентность API и повторные запросы.
- Лимиты: ограничьте число вызовов инструментов на диалог, шагов на задачу, токенов на запрос и расход за сутки, чтобы цикл не ушёл в разнос. В OWASP это называется неограниченным потреблением (unbounded consumption).
- Журнал аудита: сохраняйте каждый запрос, вызов инструмента, аргументы, результат и того, кто одобрил. Без журнала нельзя ни разобрать инцидент, ни улучшить агента.
- Аварийный выключатель: флаг, который отключает агента или отдельный инструмент без деплоя.
RAG: как агент работает с данными вашей компании
Модель не знает ваш прайс, договоры и внутренние правила. RAG (генерация с поиском по данным) решает это без дообучения: документы режутся на фрагменты и индексируются, на каждый вопрос находятся самые подходящие фрагменты, а модель отвечает по ним и называет источник. Небольшой компании часто хватает Postgres с векторным расширением; отдельная векторная база не обязательна на старте.
Качество зависит от данных больше, чем от модели. Устаревшие документы дают устаревшие ответы уверенным тоном. Решите, кто отвечает за каждый источник, как часто он обновляется и что происходит при удалении документа. Структурированные факты (остатки, цены, статус заказа) не кладите в текстовый индекс: берите их инструментом из настоящей базы.
Важен и контроль доступа. Если в индексе смешаны документы разных клиентов или отделов, агент может выдать одно другому. Фильтруйте поиск по правам текущего пользователя до того, как модель что-либо увидит, а не после. Именно поэтому в OWASP отдельными рисками названы раскрытие чувствительной информации и уязвимости векторов и эмбеддингов.
Риски: галлюцинации, утечки данных и стоимость токенов
Галлюцинации не исчезают. Модель способна спокойным тоном назвать неверный факт. Снижайте ущерб конструкцией: отвечать только по найденным источникам, показывать источник, говорить «не знаю» и передавать человеку, когда ничего подходящего нет, а точные числа брать инструментом. Проверяйте на реальных прошлых диалогах до запуска и после каждой смены промпта или модели, потому что поведение меняется.
Утечки возникают в двух местах: то, что вы отправляете провайдеру модели, и то, что агент раскрывает пользователю. Изучите условия провайдера о хранении данных и обучении, уберите лишнее (паспорта, данные карт) и не кладите секреты в промпт: решительный пользователь может вытянуть системный промпт.
Модель оплачивается за токены, а цикл агента на каждом шаге заново отправляет весь диалог и результаты инструментов, поэтому длинные чаты и большие документы дорожают. Цифр мы не называем: они зависят от модели, прайсы меняются, а трафик у вас свой. Измеряйте на пилоте: логируйте токены на диалог, задайте бюджеты и оповещения, для простой классификации берите более дешёвую модель, а дорогую оставьте для сложных шагов.
Как внедрять ИИ-агента поэтапно
Не начинайте с автономного агента, который говорит с клиентами. Поднимайтесь по ступеням только когда предыдущая показала стабильный результат на реальных диалогах. У каждой ступени заранее заданный критерий выхода, и на любой можно остановиться, если задача уже решена.
До разработки запишите, что значит «хорошо»: какие вопросы, какие действия, какая доля случаев должна закрываться без человека и что считается серьёзной ошибкой. Без этого демо всегда впечатляет, а в работе разочаровывает.
- Этап 0: сценарный бот и прибранный процесс. Кнопки, формы, запросы в базу. Соберите реальные сообщения, чтобы понять, что на самом деле спрашивают.
- Этап 1: ассистент только для чтения. Ответы по вашим документам с источниками. Без действий, оператор может вмешаться в любой момент.
- Этап 2: черновики для человека. Агент готовит ответ или правку в CRM, сотрудник одобряет одним кликом. Так вы безопасно копите ошибки.
- Этап 3: безопасные действия самостоятельно. Малорисковые обратимые шаги (заметка, задача, смена статуса) выполняются автоматически с журналом.
- Этап 4: больше самостоятельности только там, где журнал показывает, что это работает. Рискованные действия по-прежнему требуют подтверждения.
Как подключить ИИ-агента к CRM и Telegram
Telegram удобный канал: клиенты уже там, а операторы могут работать в том же чате. Обновления приходят через вебхук или long polling, об этом в статье вебхук или long polling. Состояние диалога храните в своей базе, а не только в контексте модели: см. состояние диалога бота. Для согласований используйте инлайн-клавиатуры: нажатие приходит как callback query, и бот обязан на него ответить. Агент предлагает, человек нажимает кнопку, и только тогда ваш бэкенд обращается к CRM.
Со стороны CRM агент не должен ходить в API с мощным токеном напрямую. Поставьте между ними тонкий сервис с несколькими явными операциями: найти контакт, прочитать сделку, добавить заметку, создать задачу. Он проверяет права, валидирует вход, пишет журнал, соблюдает лимиты и делает повторы. Медленная или недоступная модель не должна терять заявку: вызовы модели идут через очередь с таймаутами, как в статье фоновые задачи и очереди, а бот откатывается на сценарий или передаёт чат человеку. О более широкой картине обмена с CRM и ERP читайте в статье интеграция с CRM и ERP.
Когда нужен подрядчик, а когда нет
Подрядчик не нужен для сценарного бота на небольшом процессе, для пилота на no-code инструменте, чтобы понять, о чём спрашивают, и для ассистента только для чтения по нескольким документам, если утечка или неверный ответ вам дёшево обходятся. Начните с этого и учитесь недорого.
Подрядчик оправдан, когда агент будет касаться денег, персональных данных или клиентской базы; когда он должен жить внутри CRM, биллинга или ERP; когда нужны роли, согласования, журналы и мониторинг, которых no-code не даст; или когда после запуска систему некому поддерживать. Спросите любого исполнителя, как он ограничивает доступ инструментов, где хранятся журналы, как тестирует на реальных диалогах и что будет при недоступности модели. Если ответы расплывчаты, ищите дальше. От чего зависит объём и цена, читайте в статье из чего складывается стоимость Telegram-бота и на странице разработка Telegram-ботов.