Перейти к содержимому
← Все статьи
10 мин чтения

ИИ-агент или чат-бот для бизнеса: как выбрать и внедрить без риска

Чат-бот идёт по сценарию, который написал человек. ИИ-агент сам выбирает шаги и вызывает инструменты, например CRM, чтобы достичь цели. Если ваши вопросы и действия укладываются в короткий список, сценарного бота хватит: он дешевле и безопаснее. Дальше: отличия, честные критерии, безопасные права, данные компании, риски и этапы внедрения.

Чем отличаются чат-бот, ИИ-ассистент и ИИ-агент

В коммерческих предложениях эти слова смешивают, поэтому сначала договоримся о терминах. Разница не в том, насколько «умно» звучит текст, а в том, кто решает, каким будет следующий шаг, и что системе разрешено делать.

Языковая модель сама по себе только генерирует текст. Чтобы действовать, ей нужны инструменты. При вызове инструментов модель ничего не запускает: она возвращает структурированный запрос (имя инструмента и аргументы), а ваше приложение решает, выполнять ли его, и возвращает результат. Этот факт определяет всю схему безопасности ниже: ключи хранит ваш код, а не модель.

  • Сценарный чат-бот: кнопки, меню и фиксированные ветки, иногда с поиском по ключевым словам. Каждый путь написан человеком. Предсказуем, легко тестируется, но не справится с вопросом, которого никто не предусмотрел.
  • ИИ-ассистент: языковая модель, которая отвечает свободным текстом, обычно по промпту и набору документов. Он разговаривает, но ничего не меняет в ваших системах. Худший случай: неверный ответ.
  • ИИ-агент: модель в цикле с инструментами. Он читает запрос, выбирает инструмент (найти заказ, создать задачу, обновить сделку), смотрит результат и решает, что делать дальше, пока цель не достигнута или дело не передано человеку. Худший случай: неверное действие.
  • Гибрид: так устроено большинство рабочих систем. Сценарий ведёт рутину, модель берёт свободный текст и нестандартные случаи, а рискованные действия ждут клика человека.

Когда хватит сценарного бота, а когда ИИ-агент окупается

Об этом продавцы молчат. Если бот отвечает на одни и те же два десятка вопросов, принимает заявку, показывает статус заказа и записывает на время, агент вам не нужен. Сценарий не стоит денег за каждое сообщение, ведёт себя одинаково и читается новым разработчиком за вечер.

Агент добавляет счёт за модель на каждое сообщение, недетерминированное поведение и новый класс сбоев. Платить за это стоит, только когда сценарий действительно не справляется. Вопрос в свободной форме, на который отвечает список кнопок, таким случаем не считается. Что умеет обычный бот, смотрите в обзоре Telegram-бот для бизнеса.

Агент нужен там, где на входе свободный текст, а правильное действие зависит от контекста: клиент пишет длинное сообщение, где вопрос, номер заказа и жалоба вперемешку; лид описывает задачу своими словами; для ответа по обращению нужны факты из трёх систем.

Даже тогда начинайте узко: одна задача, небольшой набор инструментов, понятная передача человеку. Первый агент, который классифицирует обращение и готовит черновик ответа для оператора, это полноценный продукт, а не полумера. Для рутинных потоков между системами без свободного текста лучше подходят конструкторы процессов или обычный код интеграции; сравните в статьях n8n или свой код и автоматизация бизнес-процессов.

  • Запросы приходят из небольшого стабильного набора, и меню или форма их закрывают.
  • Ответ должен быть точным и одинаковым каждый раз: цены, юридические условия, статус заказа. Это запрос в базу, а не сгенерированный текст.
  • Действие рискованное или необратимое (возврат денег, удаление данных, смена доступа), и решать всё равно человеку.
  • Объём небольшой, и один сотрудник справляется без труда.
  • Процесс пока нельзя описать на бумаге. Автоматизация процесса, который никто не может объяснить, лишь автоматизирует путаницу.
  • Некому каждую неделю разбирать диалоги и править систему.

Как безопасно дать ИИ-агенту инструменты

Относитесь к агенту как к недоверенному сотруднику в первый день. Модель может ошибиться, а чужой текст способен ею управлять: в списке рисков OWASP для LLM-приложений среди главных названы внедрение промптов (prompt injection) и чрезмерная самостоятельность (excessive agency). Сообщение клиента, веб-страница или документ в базе знаний могут содержать инструкции, адресованные модели. Поэтому безопасность нельзя поручать промпту. Она живёт в коде вокруг модели.

Каждый инструмент это обычная функция бэкенда со своей валидацией, правами и тестами. Модель лишь предлагает вызов, а ваш сервис проверяет его так же, как запрос от недоверенного клиента.

  • Минимум прав: давайте только те инструменты, что нужны задаче. По умолчанию только чтение; инструменты записи добавляйте по одному и как можно уже («добавить заметку в сделку», а не «выполнить любой запрос к CRM»).
  • Действовать от имени пользователя, а не системы: инструмент работает с правами человека из диалога. Используйте вашу модель ролей и прав доступа, мастер-ключ агенту не выдавайте.
  • Проверка аргументов на сервере: типы, диапазоны, допустимые значения, принадлежность объекта. Идентификаторам и суммам от модели не доверяйте.
  • Подтверждение рискованных действий: платежи, возвраты, удаление, массовые рассылки и внешние письма ждут явного одобрения человека, например нажатия инлайн-кнопки оператором в Telegram.
  • Идемпотентность и повторы: модель может вызвать инструмент дважды. Используйте ключи идемпотентности, как в статье идемпотентность API и повторные запросы.
  • Лимиты: ограничьте число вызовов инструментов на диалог, шагов на задачу, токенов на запрос и расход за сутки, чтобы цикл не ушёл в разнос. В OWASP это называется неограниченным потреблением (unbounded consumption).
  • Журнал аудита: сохраняйте каждый запрос, вызов инструмента, аргументы, результат и того, кто одобрил. Без журнала нельзя ни разобрать инцидент, ни улучшить агента.
  • Аварийный выключатель: флаг, который отключает агента или отдельный инструмент без деплоя.

RAG: как агент работает с данными вашей компании

Модель не знает ваш прайс, договоры и внутренние правила. RAG (генерация с поиском по данным) решает это без дообучения: документы режутся на фрагменты и индексируются, на каждый вопрос находятся самые подходящие фрагменты, а модель отвечает по ним и называет источник. Небольшой компании часто хватает Postgres с векторным расширением; отдельная векторная база не обязательна на старте.

Качество зависит от данных больше, чем от модели. Устаревшие документы дают устаревшие ответы уверенным тоном. Решите, кто отвечает за каждый источник, как часто он обновляется и что происходит при удалении документа. Структурированные факты (остатки, цены, статус заказа) не кладите в текстовый индекс: берите их инструментом из настоящей базы.

Важен и контроль доступа. Если в индексе смешаны документы разных клиентов или отделов, агент может выдать одно другому. Фильтруйте поиск по правам текущего пользователя до того, как модель что-либо увидит, а не после. Именно поэтому в OWASP отдельными рисками названы раскрытие чувствительной информации и уязвимости векторов и эмбеддингов.

Риски: галлюцинации, утечки данных и стоимость токенов

Галлюцинации не исчезают. Модель способна спокойным тоном назвать неверный факт. Снижайте ущерб конструкцией: отвечать только по найденным источникам, показывать источник, говорить «не знаю» и передавать человеку, когда ничего подходящего нет, а точные числа брать инструментом. Проверяйте на реальных прошлых диалогах до запуска и после каждой смены промпта или модели, потому что поведение меняется.

Утечки возникают в двух местах: то, что вы отправляете провайдеру модели, и то, что агент раскрывает пользователю. Изучите условия провайдера о хранении данных и обучении, уберите лишнее (паспорта, данные карт) и не кладите секреты в промпт: решительный пользователь может вытянуть системный промпт.

Модель оплачивается за токены, а цикл агента на каждом шаге заново отправляет весь диалог и результаты инструментов, поэтому длинные чаты и большие документы дорожают. Цифр мы не называем: они зависят от модели, прайсы меняются, а трафик у вас свой. Измеряйте на пилоте: логируйте токены на диалог, задайте бюджеты и оповещения, для простой классификации берите более дешёвую модель, а дорогую оставьте для сложных шагов.

Как внедрять ИИ-агента поэтапно

Не начинайте с автономного агента, который говорит с клиентами. Поднимайтесь по ступеням только когда предыдущая показала стабильный результат на реальных диалогах. У каждой ступени заранее заданный критерий выхода, и на любой можно остановиться, если задача уже решена.

До разработки запишите, что значит «хорошо»: какие вопросы, какие действия, какая доля случаев должна закрываться без человека и что считается серьёзной ошибкой. Без этого демо всегда впечатляет, а в работе разочаровывает.

  • Этап 0: сценарный бот и прибранный процесс. Кнопки, формы, запросы в базу. Соберите реальные сообщения, чтобы понять, что на самом деле спрашивают.
  • Этап 1: ассистент только для чтения. Ответы по вашим документам с источниками. Без действий, оператор может вмешаться в любой момент.
  • Этап 2: черновики для человека. Агент готовит ответ или правку в CRM, сотрудник одобряет одним кликом. Так вы безопасно копите ошибки.
  • Этап 3: безопасные действия самостоятельно. Малорисковые обратимые шаги (заметка, задача, смена статуса) выполняются автоматически с журналом.
  • Этап 4: больше самостоятельности только там, где журнал показывает, что это работает. Рискованные действия по-прежнему требуют подтверждения.

Как подключить ИИ-агента к CRM и Telegram

Telegram удобный канал: клиенты уже там, а операторы могут работать в том же чате. Обновления приходят через вебхук или long polling, об этом в статье вебхук или long polling. Состояние диалога храните в своей базе, а не только в контексте модели: см. состояние диалога бота. Для согласований используйте инлайн-клавиатуры: нажатие приходит как callback query, и бот обязан на него ответить. Агент предлагает, человек нажимает кнопку, и только тогда ваш бэкенд обращается к CRM.

Со стороны CRM агент не должен ходить в API с мощным токеном напрямую. Поставьте между ними тонкий сервис с несколькими явными операциями: найти контакт, прочитать сделку, добавить заметку, создать задачу. Он проверяет права, валидирует вход, пишет журнал, соблюдает лимиты и делает повторы. Медленная или недоступная модель не должна терять заявку: вызовы модели идут через очередь с таймаутами, как в статье фоновые задачи и очереди, а бот откатывается на сценарий или передаёт чат человеку. О более широкой картине обмена с CRM и ERP читайте в статье интеграция с CRM и ERP.

Когда нужен подрядчик, а когда нет

Подрядчик не нужен для сценарного бота на небольшом процессе, для пилота на no-code инструменте, чтобы понять, о чём спрашивают, и для ассистента только для чтения по нескольким документам, если утечка или неверный ответ вам дёшево обходятся. Начните с этого и учитесь недорого.

Подрядчик оправдан, когда агент будет касаться денег, персональных данных или клиентской базы; когда он должен жить внутри CRM, биллинга или ERP; когда нужны роли, согласования, журналы и мониторинг, которых no-code не даст; или когда после запуска систему некому поддерживать. Спросите любого исполнителя, как он ограничивает доступ инструментов, где хранятся журналы, как тестирует на реальных диалогах и что будет при недоступности модели. Если ответы расплывчаты, ищите дальше. От чего зависит объём и цена, читайте в статье из чего складывается стоимость Telegram-бота и на странице разработка Telegram-ботов.

Вопросы

Частые вопросы

Не нашли ответ — спросите на созвоне или в Telegram.

Чем ИИ-агент отличается от чат-бота?

Чат-бот идёт по путям, которые написал человек: кнопки, меню, фиксированные ветки. ИИ-агент с помощью языковой модели сам выбирает шаги и вызывает инструменты, например CRM или базу, пока задача не выполнена или не передана человеку. Он гибче, но менее предсказуем и стоит денег за каждое сообщение.

ИИ-ассистент для бизнеса и ИИ-агент — это одно и то же?

Нет. Ассистент отвечает свободным текстом, обычно по вашим документам, и ничего не меняет. Агент ещё и действует: создаёт задачи, обновляет записи, отправляет запросы. Цена ошибки тоже разная: ошибка ассистента это плохой ответ, ошибка агента это плохое действие, поэтому нужны права, подтверждения и журнал.

Нужен ли ИИ-агент или хватит обычного чат-бота для бизнеса?

Если запросы приходят из короткого стабильного списка, меню, форма и запросы в базу обычно справляются дешевле и предсказуемее. Агент стоит рассматривать, когда на входе свободный текст, правильное действие зависит от контекста, и можно начать с черновиков, которые одобряет сотрудник. Начните с малого и проверьте на реальных обращениях.

Как безопасно дать ИИ-агенту доступ к CRM?

Не выдавайте токен с полным доступом. Поставьте между ними небольшой сервис с узкими операциями, запускайте инструменты с правами текущего пользователя, проверяйте каждый аргумент на сервере, требуйте подтверждения человека для рискованных действий, задайте лимиты вызовов и расходов и пишите журнал каждого вызова.

Может ли ИИ-агент работать с документами и данными компании?

Да, через поиск по данным (RAG): документы индексируются, на каждый вопрос находятся релевантные фрагменты, и модель отвечает по ним с источниками. Точные факты вроде цен или остатков берите инструментами из реальной базы. Фильтруйте поиск по правам пользователя, иначе агент может раскрыть чужие данные.

Какие главные риски ИИ-агентов в бизнесе?

Неверные факты, поданные уверенно, утечки персональных и коммерческих данных, внедрение промптов через сообщения и документы, действия за пределами задуманного и неконтролируемый расход токенов. Риски снижают ограниченные инструменты, одобрение человеком, ответы по источникам, тесты на реальных диалогах, бюджеты и журнал аудита.

Связанная услуга

Разработка Telegram-ботов для бизнеса

Бот — это вход в вашу систему там, где клиенты и сотрудники уже общаются. Разрабатываем ботов как полноценные приложения: с базой данных, правами доступа и интеграциями, а не как набор кнопок.

Об услуге
Другие статьи
6 мин чтения

Разработка телеграм бота на заказ: архитектура, интеграции и скрытые затраты

Разработка телеграм бота на заказ: от чего зависит стоимость проекта, выбор между конструктором и кодом, платежи, интеграции, серверы и поддержка.

Читать статью: Разработка телеграм бота на заказ: архитектура, интеграции и скрытые затраты →
6 мин чтения

Оплата в телеграм боте: архитектура, платежные шлюзы и надежная обработка

Оплата в телеграм боте: выбор между Stars и ЮKassa, обработка pre_checkout_query, успешные платежи, идемпотентность и возвраты.

Читать статью: Оплата в телеграм боте: архитектура, платежные шлюзы и надежная обработка →
Контакт

Обсудим вашу задачу?

Тридцать минут созвона — и у вас есть понимание архитектуры, сроков и формата работы. Без обязательств.

Или напишите в Telegram →Читайте наш канал в Telegram →

Укажите Telegram или email, чтобы мы могли ответить.

Отвечаем в течение 15 минут.