К содержимому
MoranaLabs.
Инженерные гайды14 мин чтения1 просмотр

ИИ-агент, ассистент и чат-бот: где граница 

Берем один запрос клиента и прогоняем через три реализации, считая обращения к системам. Выясняем, почему «автономность» — негодный критерий, где на самом деле проходит граница и почему простой агент бывает дешевле сложного ассистента.

0xReality

Клиент пишет в поддержку: «Заказ 4417 обещали в среду, сегодня пятница. Где он?»

Дальше начинается самое интересное. Чат-бот сделает по этому запросу одно обращение к вашим системам. ИИ-ассистент — четыре. ИИ-агент — одиннадцать. И только у третьего после ответа клиенту в ваших системах что-то изменится.

Разница в этих трех числах стоит от 150 000 до 2 500 000 ₽, и продают все три под одним и тем же словом «искусственный интеллект». Ниже — один и тот же запрос, прогнанный через три реализации по шагам, честный критерий, по которому их можно различить за минуту разговора, и разбор того, откуда берется разница в чеке.

Реализация первая: чат-бот

Бот работает по дереву сценариев. Он распознал намерение «узнать статус заказа», спросил номер, дернул одно поле в вашей системе и вернул то, что там написано.

ШагЧто делаетОбращений к системам
1Распознал намерение, попросил номер заказа0
2Прочитал поле «Статус» по номеру1
3Вернул шаблон: «Заказ 4417 в статусе „Ожидает комплектации"»0

Клиент прочитал слово «ожидает» и написал следом: «И что мне с этим делать?» Бот такого сценария не знает и переводит на человека. Именно здесь живет классическая жалоба на корпоративных ботов: формально он ответил, фактически клиент все равно дошел до менеджера, а тот еще и начал разговор с чтения переписки с ботом.

Это не приговор боту. На запросах вида «какой у вас график работы» и «как вернуть товар» он закрывает поток дешево и мгновенно. Проблема начинается там, где ответ зависит от состояния конкретной сделки.

Реализация вторая: ИИ-ассистент

Ассистент читает по-настоящему. Он не ограничен деревом: получив вопрос, он сам решает, куда посмотреть, и собирает картину.

ШагЧто делаетОбращений к системам
1Нашел заказ 4417 и прочитал состав1
2Проверил резервы по каждой позиции2
3Увидел, что одна позиция не обеспечена, посмотрел плановую поставку3
4Проверил, есть ли по клиенту особые условия отгрузки4
5Собрал ответ: какая позиция тормозит, когда придет, что будет с остальными0

Клиент получил внятное объяснение вместо слова «ожидает». Это качественный скачок, и половина обращений в поддержку закрывается именно здесь.

Но обратите внимание на главное: заказ 4417 как стоял, так и стоит. Ассистент объяснил ситуацию и не сдвинул ее ни на шаг. Если клиент теперь скажет «тогда отгрузите без этой позиции» — ассистент передаст это человеку.

Реализация третья: ИИ-агент

Агент начинает с того же чтения, а дальше делает то, что делал бы менеджер.

ШагЧто делаетОбращений к системамМеняет состояние
1–4Все то же чтение, что у ассистента4нет
5Проверил, есть ли на складе аналог дефицитной позиции5нет
6Проверил, разрешена ли этому клиенту замена и не превышен ли лимит6нет
7Зарезервировал аналог под заказ7да
8Переставил плановую дату отгрузки8да
9Создал задачу менеджеру на подтверждение замены9да
10Записал обращение и решение в карточку клиента10да
11Отправил клиенту письмо с новым сроком и вариантом замены11да

Одиннадцать обращений, из них пять изменили состояние ваших систем и одно ушло наружу, живому человеку, от имени вашей компании.

Вот здесь и проходит граница. Не в том, насколько умно каждый из трех формулирует фразы: в том, что после работы третьего мир стал другим.

Водораздел: право на побочный эффект

Индустрия предлагает различать эти классы по «автономности». Критерий негодный, и вот почему: бот на дереве сценариев тоже работает без человека, ассистент тоже сам решает, куда посмотреть, а в маркетинговых материалах автономным называется вообще все. Слово ничего не проверяет.

Рабочий критерий один, и он проверяется пальцем по конкретной операции:

Что этой системе разрешено изменить в мире, если рядом нет человека?

Отсюда три класса выстраиваются сами, без споров о терминах:

КлассЧто читаетЧто меняетЦена ошибки
Чат-бот Публичное: то, что и так есть на сайте, плюс одно-два поля по ключу Ничего Раздражение клиента
ИИ-ассистент Частное: данные конкретной сделки, документы, условия, персональные данные Ничего Человек принял решение по неверной картине
ИИ-агент Частное, плюс все, что нужно для действия Состояние ваших систем и коммуникацию наружу Документ в учете, зарезервированный товар, письмо клиенту

Последний столбец — самый важный, и к нему мы сейчас вернемся, потому что именно он объясняет деньги.

Про «нейросотрудника» и прочую упаковку

«Нейросотрудник», «цифровой сотрудник», «ИИ-специалист» — это термины продажи. Инженерного содержания за ними нет. Под ними встречается любой из трех классов. Проверять надо тем же вопросом: что эта штука меняет сама. Если в ответ рассказывают про обученность и человекоподобность, вопрос стоит повторить, потому что ответ на него определяет и цену, и риск.

Почему деньги разные

Разница в чеке берется не из «сложности искусственного интеллекта». Она берется из того, что цена ошибки требует защиты, а защита стоит денег. Вот что появляется в смете при переходе на каждый следующий уровень.

Статья работБотАссистентАгент
Канал, интерфейс, сценарий диалогададада
База знаний и поиск по нейиногдадаиногда
Интеграция на чтениенетдада
Разграничение доступа, кто что видитнетдада
Защита персональных данных в контуренетдада
Интеграция на записьнетнетда
Ключи идемпотентности на операцияхнетнетда
Холостой прогон на боевых данныхнетнетда
Подтверждение необратимых действий человекомнетнетда
Полный журнал действий и разбор инцидентовнетчастичнода
Откат и очередь исключенийнетнетда

Переход «бот → ассистент» покупает вам интеграцию на чтение и работу с правами. Переход «ассистент → агент» покупает весь блок безопасности записи, и он тяжелый: идемпотентность, холостой прогон, подтверждение, журнал, откат. В агентном проекте эта часть съедает от четверти до трети сметы. Подробная разбивка по статьям — в разборе стоимости агента.

Ценовые вилки

Что беремВилкаСрок
Бот: один канал, база знаний, заявка на почту150 000 – 400 000 ₽2–3 недели
Бот сложнее: несколько каналов, живая база знаний, передача оператору400 000 – 700 000 ₽4–6 недель
Агент: один маршрут, системы с готовым API250 000 – 700 000 ₽2–3 недели
Агент: пилот на живом процессе с интеграциями700 000 – 1 200 000 ₽5–7 недель
Агент: промышленный контур на несколько процессов1 200 000 – 2 500 000 ₽от 8 недель

Неожиданная строка: простой агент дешевле сложного ассистента

Сравните вторую и третью строки таблицы. Агент на один маршрут стоит от 250 000 ₽, а разветвленный бот-ассистент по большой базе знаний — от 400 000 ₽ и выше. Иерархия «бот дешево, ассистент средне, агент дорого» ломается, и это не ошибка прайса.

Причина в том, что чек определяют два параметра: сколько систем затронуто и какой глубины нужна защита. Агент, который ходит в две системы по готовому API и делает один понятный маршрут, проще ассистента, которому надо проиндексировать сорок тысяч документов, развести права между отделами и не выпустить персональные данные за периметр.

Практический вывод: не выбирайте класс по бюджету. Сначала ответьте, что системе разрешено менять, потом считайте деньги. Обратный порядок дает либо переплату, либо заглушку.

Число обращений — это ваш счет за эксплуатацию

Три числа из начала статьи живут не только в разработке. Они превращаются в ежемесячный счет.

Возьмем 3 000 обращений в месяц. Бот сделает около 3 000 обращений к системам, ассистент — 12 000, агент — 33 000. У последнего к этому добавляется рост истории внутри одной задачи: каждый следующий шаг тащит в контекст все предыдущие, и на длинных цепочках расход растет быстрее линейного. Арифметика этого эффекта — в разборе сколько шагов держит агент в закрытом контуре.

Отсюда правило, которое экономит деньги на эксплуатации: шаги, где работает строгий код, из цепочки убирают. Проверка лимита клиента — это арифметика и сравнение, языковая модель для нее не нужна. Каждый такой шаг, вынесенный в код, снимает вызов из счета и одновременно убирает точку, где модель могла ошибиться.

В жизни это гибрид

Чистые реализации встречаются редко. Работающая система обычно собрана из всех трех классов, и разделение проходит по потоку обращений; вывеска на продукте тут ни при чем.

Возьмем ту же поддержку с потоком 3 000 обращений в месяц. Типичное распределение выглядит так:

Тип обращенияДоля потокаКто закрываетПочему так
График, доставка, возврат, условия — ответ одинаков для всех~70%БотДанные сделки не нужны, интеграция не нужна, ответ мгновенный и почти бесплатный
«Что с моим заказом», «почему такая сумма» — нужны данные сделки~25%АссистентНужно чтение и права, менять ничего не требуется
«Отгрузите без этой позиции», «перенесите дату»~5%АгентТребуется действие в системах, и здесь оправдан весь блок защиты

Экономика такой сборки лучше любой чистой реализации. Дорогой контур с журналом, подтверждениями и откатом строится только под те пять процентов, где он нужен по существу. Остальные девяносто пять закрываются дешевыми уровнями.

Ключевой элемент здесь — маршрутизатор на входе, который решает, какому уровню отдать обращение. Он же обязан уметь честно сказать «не знаю» и перевести на человека: попытка дотянуть ответ на грани компетенции стоит дороже, чем прямой перевод.

Практический совет для первого запуска: начните с потока и посчитайте эти доли на своей истории обращений за квартал. Если пятипроцентная группа оказалась на деле однопроцентной, агент вам сейчас не нужен, и разговор закрывается до всякого бюджета.

Как вырасти из бота в агента и не переписать все заново

Путь «сначала бот, потом посмотрим» разумен, если заложить четыре вещи с первого дня. Без них переход означает переделку интеграционного слоя, то есть самой дорогой части проекта.

  1. Интеграции живут отдельным сервисом. Не внутри бота, не в сценарии конструктора. Отдельный слой, который умеет читать из ваших систем и которому потом можно добавить запись. Это главное решение: именно его переделывают, когда экономят на старте.
  2. Идентификация клиента с первого дня. Бот часто работает анонимно, и это кажется удобным. Агенту нужно знать, кто перед ним, чтобы проверить права и лимиты. Идентификацию, прикрученную задним числом, придется проводить через все накопленные диалоги.
  3. Журнал с первого дня. Пишите, что система прочитала и что ответила, даже когда она ничего не меняет. Когда появится запись, у вас уже будет работающий контур разбора, и его не придется строить в момент первого инцидента.
  4. Справочник операций с пометкой обратимости. Список всего, что система когда-либо будет делать, с отметкой: обратимо, необратимо, требует подтверждения. На уровне бота он пустой, и заполняется он по мере роста. Этот же список потом уходит в договор.

Стоит это на старте немного: слой интеграции и журнал добавляют к бот-проекту считанные дни. Отсутствие обойдется в переписанный интеграционный слой, то есть в 40–60% бюджета следующего этапа.

Кто отвечает, когда система ошиблась

Юридическая сторона меняется с классом сильнее, чем техническая, и на нее почти никогда не смотрят при выборе.

КлассЧто произошло при ошибкеКто отвечает
БотКлиент получил неточный ответ и переспросилВопрос качества сервиса, последствий обычно нет
АссистентЧеловек принял решение по неполной картинеРешение принял человек. Но если выборка пришла урезанной по вине системы — это вопрос к подрядчику
АгентТовар зарезервирован, документ создан, письмо ушло клиентуДействие совершила система, и граница ответственности должна стоять в договоре

Из-за средней строки в проектах ассистентов появляется требование, которого не ждут: проверка полноты выборки. Система обязана убедиться, что показала человеку все, что он имеет право видеть. Молча урезанная правами выборка выглядит как нормальный ответ и приводит к неверному решению, за которое формально отвечает человек.

Для агента в договоре должны стоять четыре вещи, и их отсутствие — повод задать вопрос подрядчику до подписания:

  • Перечень необратимых действий, каждое из которых требует подтверждения.
  • Обязательный холостой прогон перед боевым режимом, который нельзя отключить одной галкой.
  • Журнал шагов в списке сдаваемых артефактов, без права понизить его до опции.
  • Граница ответственности: подрядчик отвечает за поведение агента в согласованном сценарии и не отвечает за решения человека, принятые по его подсказке.

Формулировка на сайте подрядчика в претензии не значит ничего. Значение имеет пункт договора.

Как выбрать: четыре вопроса

Отвечаются за один разговор, без подрядчика.

  1. Должна ли система что-то изменить в ваших данных сама? Если нет — агент вам не нужен, и половина бюджета освобождается сразу.
  2. Нужны ли ей данные конкретного клиента или сделки? Если нет и ответы одинаковы для всех — берите бота, интеграция не понадобится.
  3. Сколько источников и нужны ли разные права для разных сотрудников? Один источник и одинаковый доступ — бот с базой знаний. Много источников с разграничением — ассистент, и это отдельная услуга: LLM и поиск по документам в контуре.
  4. Что стоит ошибка? Раздражение клиента, неверное решение человека или проведенный документ. Ответ на этот вопрос определяет объем защиты, а объем защиты — половину чека.

Три способа потерять деньги на этом выборе

Купили агента там, где хватало бота

Процесс типовой, ответы одинаковы для всех, менять ничего не надо — а куплен контур с журналом, холостым прогоном и подтверждениями. Переплата в два-три раза плюс лишняя поверхность риска: система с правом записи там, где право записи не требовалось вовсе.

Купили бота там, где нужен был агент

Самый частый и самый обидный случай. Клиенту нужно, чтобы вопрос решился; бот умеет только рассказать, как он решается. Клиент дочитывает ответ и идет к менеджеру, а менеджер начинает работу с разбора переписки с ботом. Работы стало больше, чем было до внедрения, и это единственный сценарий, в котором автоматизация уходит в минус.

Купили ассистента, а ждали агента

Ассистент разбирается в ситуации блестяще и не делает ничего. Если на презентации звучало «он сам разберется с заказом», а в договоре стоит доступ только на чтение — разочарование заложено в проект с первого дня. Проверяется одним вопросом на демонстрации: покажите, что изменилось в системе после диалога.

Что спросить на демонстрации

Пять вопросов, которые за десять минут показывают, какой именно класс вам показывают под каким названием.

  1. Покажите список операций, которые система выполняет без участия человека. Списка нет — перед вами бот или ассистент, как бы его ни называли.
  2. Что изменилось в системах после этого диалога? Пусть покажут на экране.
  3. Что произойдет, если внешняя система ответит таймаутом на записи?
  4. Где журнал действий и кто его читает через месяц?
  5. Какие действия требуют подтверждения человеком и где этот список записан?

Если на четвертом и пятом вопросе собеседник переводит разговор на качество модели — вам показывают демонстрацию. Систему, которую собираются поставить в ваш прод, показывают иначе.

Вопросы и ответы

Чем отличается ИИ-агент от чат-бота?

Чат-бот отвечает на вопросы по сценарию и ничего не меняет в ваших системах. ИИ-агент проходит маршрут и меняет состояние: создает документы, резервирует товар, отправляет письма от имени компании. На одном и том же запросе бот делает одно обращение к данным, агент — около десяти, и часть из них необратима. Отсюда разница в цене: 150 000 – 400 000 ₽ против 250 000 ₽ и выше.

Чем отличается ИИ-агент от ИИ-ассистента?

Правом на побочный эффект. Ассистент читает ваши данные и объясняет ситуацию, но состояние систем после его работы прежнее. Агент это состояние меняет. Отсюда у агента в смете появляется целый блок, которого у ассистента нет: идемпотентность, холостой прогон, подтверждение необратимых действий, журнал, откат.

Что дороже — чат-бот или ИИ-агент?

Обычно агент, но не всегда. Агент на один маршрут по готовым API стоит от 250 000 ₽, а разветвленный ассистент по большой базе знаний с разграничением прав — от 400 000 ₽ и выше. Чек определяют число затронутых систем и глубина защиты; название класса на него не влияет.

Что такое нейросотрудник?

Маркетинговая упаковка, под которой встречается любой из трех классов. Определить, что вам продают, можно одним вопросом: какие операции эта система выполняет без участия человека и где записан их список. Если списка нет, скорее всего перед вами бот или ассистент.

Можно ли начать с бота и вырасти до агента?

Да, и это разумный путь, если он заложен в архитектуру заранее: интеграции делаются с расчетом на будущую запись, а журнал ведется с первого дня. Без такого расчета переход обычно означает переделку интеграционного слоя, то есть самой дорогой части проекта.

Что дальше

Если после четырех вопросов выяснилось, что менять состояние систем никто не должен — начинайте с бота, это дешевле и быстрее: разработка чат-ботов. Если процесс должен доводиться до результата без человека на каждом шаге — смотрите Разработку ИИ-агентов, там же состав работ по ступеням.

Сомневаетесь между классами — опишите один конкретный запрос вашего клиента и то, чем он должен закончиться. По этой паре видно все: и класс, и число интеграций, и вилку.

  • #выбор решения
  • #ИИ-агенты
  • #ИИ-ассистенты
  • #цена
  • #чат-боты
ПоделитьсяTelegramX
рассылка

Новые статьи — на почту

Лонгриды про ML в проде, edge и компьютерное зрение — сразу после выхода.

Канал в Telegram: morana.log

Без спама. Нажимая «Подписаться», соглашаетесь с обработкой персональных данных

бесплатный pdf-гайд

Edge AI или облако: когда тащить нейросеть на железо

Признаки, фреймворк выбора и прикидка экономии — короткий PDF-гайд на почту.

PDF · 5 страниц · без спама. Нажимая «Получить», соглашаетесь с обработкой персональных данных

Читать дальше
— заявка

Опишите задачу  ответим как инженеры. 

Оставьте имя и Telegram — остальное обсудим. Без брифов на 40 слайдов и звонков по три раза.

Отвечаем за пару часовотвечает инженер, а не отдел продажNDA по запросу

Сюда напишем — это быстрее всего

Или сразу написать в Telegram

Без спама и звонков-роботов. Нажимая кнопку, вы соглашаетесь с политикой конфиденциальности и обработкой персональных данных.