Сколько на самом деле стоит ИИ-агент

Представьте, что вы наняли сотрудника, который работает в десять раз быстрее остальных. Отчет у него готов за две минуты. Есть одно условие: к нему нужно приставить второго человека, который будет полчаса проверять каждый отчет. Вы бы назвали такой найм экономией?

Именно это сейчас происходит с ИИ-агентами в американском бизнесе. Их внедряют, чтобы автоматизировать задачи, ускорить решения и освободить людей для более ценной работы. На деле агенты нередко добавляют работы: когда им не хватает надежной информации о компании или результат выглядит сомнительно, в дело вступает человек и все перепроверяет.

Феликс Ван де Мале, CEO Collibra, придумал для этого название: «налог на галлюцинации». Это скрытая цена ручного контроля, переделок и рисков. Главное в ней то, что она растет вместе с числом агентов.

Невидимая статья расходов

Масштаб показал опрос The Harris Poll, проведенный по заказу Collibra. 51% руководителей, отвечающих за технологические решения, сказали, что их команды тратят значительное количество рабочих часов на проверку и исправление результатов ИИ-агентов. В компаниях с выручкой от 100 миллионов долларов эта доля выросла до 64%. А 87% признались, что сотрудники регулярно перепроверяют, актуален ли бизнес-контекст, на который опираются агенты.

С точки зрения управленца здесь важна не сама проверка, а то, где она живет. Ее нет ни в бюджете проекта, ни в штатном расписании. Она размазана по рабочим дням людей, которых нанимали для другого. В отчете о внедрении такая статья расходов не появится, пока ее специально не начнешь искать.

И чем крупнее компания, тем дороже она обходится. Здесь работает обратный эффект масштаба: каждый новый процесс, отданный агенту, добавляет еще одно место, где кто-то должен сверять.

Ошибка в постановке задачи

Когда агент ошибается, руководители охотно винят модель. Мне кажется, это удобное, но неверное объяснение. 72% участников того же исследования связывают провалы ИИ-инициатив с проблемами в инфраструктуре данных.

Агент выдает уверенный ответ даже тогда, когда исходные материалы устарели, неполны или противоречат друг другу. По сути, он отражает тот порядок, который у компании в документах, только быстрее и убедительнее. Если там бардак, никакая модель его не исправит.

Есть и риск посерьезнее неверного отчета. При плохо продуманных правах доступа агент может добраться до сведений, которых видеть не должен. Для совета директоров это уже вопрос не продуктивности, а управления рисками.

Что я бы сделал на месте CEO

Первое: перестал бы мерить успех скоростью отдельной задачи. Две минуты на отчет и полчаса на проверку означают, что экономия гораздо скромнее, чем выглядит в презентации. Считать нужно весь процесс, включая человеческие часы на контроль.

Второе: сократил бы число экспериментов. Агенты, запущенные повсюду, дают много шума и мало результата. Лучше несколько сценариев с высокой отдачей, где у каждого есть ясная цель, надежный источник данных, прописанные права доступа и конкретный человек, отвечающий за итог.

Третье: заранее подумал бы о том, как контроль будет расти вместе с внедрением. Ручная проверка работает на пилоте, но не выдерживает масштаба целой организации. Ван де Мале формулирует это так: нужны механизмы, которые позволяют доверять решениям агентов, не ставя человека посреди каждого взаимодействия.

И четвертое, самое неочевидное: смотрел бы на бизнес-процесс целиком. «Если вы ускорили одну задачу, но создали узкое место в другом месте, вы не преобразовали работу, а просто переложили проблему», говорит глава Collibra. Я подписываюсь под каждым его словом.

Урок для тех, кто только начинает

Компаниям в России, которые пока присматриваются к агентам, эта история дает понятный урок. Проблема связана с качеством корпоративных знаний, а не с конкретной страной или технологией. Поэтому начинать стоит с порядка в собственных данных, а не с выбора модели.

ИИ должен давать людям больше пространства, чтобы думать, руководить и создавать, а не превращать их в нянек для цифровых работников. Поэтому прежде чем праздновать число запущенных агентов, я бы задал команде вопрос поинтереснее: сколько человеческого труда нужно, чтобы каждый из них приносил пользу?