Компании, продающие ИИ-агентов, все чаще описывают их как членов команды, сотрудников или цифровых коллег. Но опубликованный на этой неделе анализ MIT Technology Review утверждает, что такой язык может не только формировать маркетинговые нарративы: он способен снизить качество контроля со стороны людей именно тогда, когда бизнес начинает доверять ИИ все более сложную работу.

Основные доказательства, подчеркнутые в материале, взяты из исследования Эммы Уайлс, профессора бизнеса из Бостонского университета, которая изучала реакцию менеджеров, когда результаты работы ИИ подавались как выполненные «ИИ-сотрудником», а не чат-ботом. Согласно анализу, такая формулировка приводила к тому, что участники реже замечали ошибки, чувствовали меньшую ответственность за результат и пересылали сомнительную работу наверх, вместо того чтобы исправлять её самостоятельно. Этот результат важен, поскольку крупные вендоры ИИ, включая Microsoft, OpenAI, Anthropic и Google, с апреля выпустили инструменты, предназначенные для координации команд ИИ-агентов на рабочих местах.

Это не запуск продукта, а предупреждение о языке внедрения

Этот материал посвящен не столько выпуску новой модели, сколько тому, как индустрия ИИ упаковывает категорию инструментов, которые сейчас переходят из стадии демоверсий в корпоративные системы. В статье MIT Technology Review утверждается, что называть ИИ-агента коллегой — это не безобидная метафора. Она меняет то, как люди оценивают, контролируют и берут на себя ответственность за результаты работы машины.

Это беспокойство возникает в момент, когда агентный ИИ (agentic AI) стал одним из самых активных фронтов развития продуктов в этом секторе. В исходном анализе агенты описываются как инструменты, способные работать в цикле для достижения цели, а не просто отвечать на один промпт. Вендоры используют такую формулировку, чтобы позиционировать их как гибких цифровых работников, способных справляться с многоэтапными бизнес-процессами.

Проблема, согласно анализу, заключается в том, что «человекоподобный» брендинг может побудить организации относиться к программному обеспечению так, будто оно обладает суждением, подотчетностью или автономностью реального сотрудника. Это может завысить ожидания за пределы того, что нынешние системы способны надежно обеспечить. Это также может ухудшить поведение людей, которые остаются юридически и операционно ответственными за результат.

Исследования показывают, что именование меняет суждения людей

Наиболее убедительные конкретные доказательства в статье взяты из исследования Уайлс. Как сообщает MIT Technology Review, участники находили на 18% меньше ошибок, когда работа описывалась как выполненная агентным «ИИ-сотрудником», а не чат-ботом. Анализ также показывает, что участники, которые воспринимали ИИ как сотрудника, чувствовали себя менее ответственными за результат его работы.

Второй поведенческий эффект может быть не менее важен для компаний, пытающихся сэкономить время с помощью автоматизации. Согласно тому же отчету, участники на 44% чаще передавали сомнительную работу ИИ менеджеру на проверку, вместо того чтобы вносить собственные исправления, когда система представлялась как «сотрудник». Если этот результат подтвердится за пределами эксперимента, он указывает на практический сбой: предприятия могут добавлять уровни агентов, которые создают больше нагрузки на проверку, а не меньше.

MIT Technology Review также приводит ответы 1261 менеджера из исследования Уайлс. Почти треть опрошенных сообщили, что их компании уже позиционируют ИИ-агентов как сотрудников, а 23% заявили, что эти системы даже внесены в организационные диаграммы. Эти цифры, если они репрезентативны, свидетельствуют о том, что концепция «цифрового коллеги» уже переходит из языка вендоров во внутренние операции компаний.

В источнике не представлены полная методология, детали выборки или статус рецензирования представленных данных, поэтому к этим результатам следует относиться как к описанным научным выводам, а не как к устоявшемуся консенсусу. Тем не менее они достаточно конкретны, чтобы обострить более широкую дискуссию, которая часто велась лишь абстрактно.

Крупные вендоры продвигают управление агентами, но модель «человека» может быть обманчивой

В анализе выводы Уайлс помещаются в более широкий контекст индустрии. Цитируется генеральный директор Nvidia Дженсен Хуанг, который в прошлом году обсуждал рабочие места с «цифровыми людьми». Что еще важнее для корпоративных покупателей, MIT Technology Review отмечает, что Microsoft, OpenAI, Anthropic и Google недавно выпустили инструменты, ориентированные на управление командами ИИ-агентов.

Эта тенденция отражает реальный технический прогресс. В анализе признается, что агентные системы стали лучше справляться с более сложными задачами. На практике это обычно означает объединение логического вывода, использования инструментов, памяти и выполнения задач в несколько этапов. Для разработчиков это может открыть доступ к таким рабочим процессам, как синтез исследований, внутренняя поддержка, операции с ПО, отслеживание кейсов или обработка документов.

Однако аргумент MIT Technology Review заключается в том, что возможности продукта и антропоморфная формулировка — это разные вещи. Агент может быть способен выполнить последовательность задач, не являясь при этом «коллегой» в каком-либо значимом смысле. Он не несет ответственности, не обладает институциональным суждением и не разделяет стимулы команды вокруг него. Маркировка агента таким образом может размыть границы управления именно там, где компаниям нужно, чтобы они оставались четкими.

Анализ также предупреждает, что эта динамика может выйти за пределы офисного ПО. По мере того как агентные системы внедряются в здравоохранение, образование, государственное управление и военный сектор, риск заключается не только в плохих результатах работы. Это еще и неверно распределенная вина. Источник утверждает, что ИИ может стать удобным объектом, на который организации перекладывают ответственность за провалы, на самом деле вызванные человеческими решениями, неправильными стимулами или слабым контролем.

Работникам может быть нужно дополнение, а не синтетические коллеги

В материале MIT Technology Review исследование менеджмента дополняется второй линией доказательств из Стэнфорда. Согласно анализу, исследователи показали 1500 работникам из 104 профессий информацию о том, какие задачи потенциально может выполнять ИИ, а затем спросили, что бы им действительно помогло больше всего.

Общий вывод, как описано в источнике, заключается в том, что работники действительно хотят автоматизации в некоторых областях, но часто не согласны с технологами в том, какие именно задачи следует делегировать. В качестве примера в статье приводится случай юристов, которые видели ценность в том, что ИИ помогает отслеживать прогресс по делам. Но торговые представители, как говорится в анализе, не хотели, чтобы ИИ проверял кредитные рейтинги клиентов, даже если эксперты определили эту работу как подходящую для автоматизации.

Этот вывод важен, потому что он меняет вопрос с «Может ли агент это сделать?» на «Следует ли автоматизировать эту задачу в данном рабочем процессе, для этой роли и с этой структурой контроля?». Для продуктовых команд это более полезная призма для проектирования, чем просто обещание замены человеческого труда ИИ.

Источник также цитирует экономиста MIT Дарона Аджемоглу, который утверждает, что маркетинг ИИ-агентов как замены людей — это «проигрышная стратегия» и что системы должны быть оптимизированы для улучшения способностей человека. Это не новая философская позиция, но в данном материале она выступает как прямая критика того, как продается текущий рынок агентов.

Доказательства, претензии и то, что остается неопределенным

Некоторые важные заявления в этом материале исходят из анализа специализированных СМИ, а не из официальной исследовательской работы или раскрытия информации компаниями. Самое конкретное доказательство — сообщение Уайлс о том, что обнаружение ошибок упало на 18%, а передача вопросов менеджерам выросла на 44%, когда ИИ позиционировался как сотрудник. Это исследовательские претензии, переданные MIT Technology Review.

В отчете также говорится, что почти треть из 1261 менеджера в исследовании заявили, что их компании позиционируют ИИ-агентов как сотрудников, а 23% вносят их в оргдиаграммы. Опять же, эти цифры приписываются исследованию в описании MIT Technology Review. Без методологии в доступном здесь фрагменте сложно оценить репрезентативность данных по отраслям или размерам компаний.

Напротив, заявления о росте платформ для корпоративных агентов легче контекстуализировать. Источник называет Microsoft, OpenAI, Anthropic и Google компаниями, которые недавно запустили продукты для управления ИИ-агентами. Это соответствует видимому направлению рынка, хотя этот список не включает первичную документацию по продуктам, поэтому статью не следует переоценивать в части специфики продуктов.

Более широкая идея о том, что агенты становятся технически более способными, разумна, но её не следует путать с доказательством того, что они могут безопасно работать в качестве независимых сотрудников. Это различие является центральным для репортажа и остается нерешенным в большей части текущих рыночных сообщений.

Что это значит для разработчиков и корпоративных покупателей

Для разработчиков ИИ непосредственный урок касается не только брендинга. Речь идет о дизайне интерфейсов и рабочих процессов. Если антропоморфный язык снижает бдительность, то такие продуктовые решения, как именование агентов, присвоение им должностей, внесение их в оргдиаграммы или представление выводов так, будто они исходят от квазиличности, могут создавать измеримый операционный риск.

Для предприятий выводы указывают на проблему управления. Компании, внедряющие агентов, должны определять их как программные системы с ограниченными правами доступа, аудируемыми действиями и четкими ответственными лицами из числа людей. Ответственность за проверку результатов должна быть возложена на людей, а не расплывчато на «ИИ-члена команды». В противном случае организации могут столкнуться с недостатками автоматизации дважды: менее качественной проверкой на первой линии и увеличением количества обращений к менеджерам на заднем плане.

Существует также финансовый аспект. Одним из преимуществ агентов является эффективность труда. Но если позиционирование увеличивает подобострастие и эскалацию задач к менеджменту, то некоторые внедрения могут незаметно добавить трения, а не устранить их. Это важно для расчетов рентабельности инвестиций, особенно в регулируемых или критически важных областях, где любые сомнительные результаты все равно должны быть проверены.

Для основателей рыночный сигнал более нюансирован, чем просто антиагентский скептицизм. Источник не утверждает, что агентные системы не имеют ценности. Он утверждает, что лучшие сценарии использования могут быть более узкими и совместными, чем предполагает питч «ИИ-сотрудника». Стартапы, которые позиционируют агентов как узкоспециализированные инструменты для поддержки конкретных решений, могут найти более прочную нишу, чем те, кто обещает синтетических коллег.

За чем следить дальше

Следующим важным сигналом будет то, продолжат ли крупные вендоры склоняться к формулировкам в стиле «сотрудников» или начнут переходить к языку управления, ориентированному на инструменты. Именование продуктов, дизайн панелей управления и админ-контроль будут показательными.

Второй сигнал — публикация более подробных исследований по эффектам контроля, описанным Уайлс. Разработчикам и покупателям стоит следить за методологией, репликацией результатов и тем, подтверждаются ли они для разных типов профессий, уровней иерархии и условий риска.

В-третьих, корпоративные кейсы будут значить больше, чем презентации продуктов. Ключевой вопрос не в том, могут ли агенты выполнять многоэтапные задачи в демоверсиях, а в том, видят ли организации, использующие их, меньше ошибок, более высокую пропускную способность и более четкие структуры ответственности.

Наконец, исследования, ориентированные на вопросы труда, подобные работе Стэнфорда, упомянутой в анализе, могут стать более важным входным ресурсом для создания продуктов. Если работники постоянно предпочитают поддержку ИИ в одних задачах и отвергают её в других, успешное внедрение может зависеть меньше от «сырых» возможностей модели, чем от соответствия автоматизации реальным предпочтениям и обязанностям команд.

Перспектива Creati.ai

Самый полезный вклад этой статьи заключается в том, что она переводит дискуссию об агентах от научно-фантастического языка обратно к организационному поведению. Рынок месяцами спорил о том, насколько автономными становятся агенты. Более насущным вопросом может быть то, как человеческие команды ведут себя, когда программное обеспечение преподносится как равный коллега.

Это различие важно, потому что внедрение корпоративного ИИ редко блокируется только лишь качеством результатов работы модели. Оно блокируется бременем проверки, неясной принадлежностью, калибровкой доверия и дизайном процессов. Если позиционирование в качестве «коллеги» ослабляет эти основы, то более разумная коммерческая стратегия заключается не в том, чтобы сделать агентов более человечными. А в том, чтобы сделать их более понятными как инструменты: ограниченные в функционале, контролируемые, измеримые и легко поддающиеся корректировке человеком.