Исследование показывает: 84% лидеров в области IT доверяют искусственному интеллекту так же, как и людям

SnapLogic представила новый отчет «AI Agents: The Final Frontier of the Enterprise«, который исследует, как руководители в области IT готовятся к внедрению агентов AI.

Основываясь на ответах более 1000 руководителей в области ИТ из США, Великобритании, Германии и Австралии, отчет подчеркивает, как компании принимают AI-агентов для оптимизации работы и повышения производительности.

Агенты ИИ, работающие автономно и выполняющие сложные задачи, становятся неотъемлемой частью рабочих процессов предприятий. В этом отчете рассматривается представление OpenAI Operator, агента ИИ для автономных задач, и запуск Google бесплатного Gemini Code Assist для разработчиков.

«Технология GenAI продолжает быстро развиваться. Возможность способствовать созданию агентов ИИ, способных работать автономно, рассуждать и выполнять конкретные действия для достижения цели, является важной вехой в способности GenAI приносить значимую бизнес-ценность», — отмечается в отчете.

Согласно результатам исследования, руководители в области IT все больше доверяют искусственному интеллекту выполнение ключевых деловых задач. Значительные 84% респондентов доверяют агентам искусственного интеллекта по крайней мере столько же, сколько людям, при этом 40% выразили большее доверие к агентам искусственного интеллекта, чем к человеческим работникам.

Это растущее доверие обусловлено потенциалом ИИ улучшить эффективность работы, поскольку в настоящее время IT-команды в среднем тратят 16 часов в неделю на управление технологиями искусственного интеллекта. Респонденты ожидают, что агенты искусственного интеллекта помогут освободить 19 часов в неделю, высвобождая ценное время для более стратегической работы.

Генеральный директор Klarna Себастьян Семятковский, который неоднократно высказывался о преобразующем воздействии ИИ на бизнес, в частности в автоматизации задач, традиционно выполняемых людьми, отражает эту тенденцию. Использование ИИ в Klarna позволило сэкономить 10 миллионов долларов ежегодно, благодаря замене ИИ на 700 операторов обслуживания клиентов и выполнению задач быстрее, чем людьми.

Кроме того, недавний опрос показал, что более половины руководителей британских компаний планируют инвестировать в ИИ вместо найма нового персонала, что обусловлено ростом затрат на труд и реформами в области труда.

Энтузиазм по поводу внедрения ИИ-агентов очевиден, поскольку 79% руководителей IT отдают приоритет их внедрению в течение следующего года. Более того, 92% считают, что эти системы принесут значимые бизнес-результаты в течение следующих 12-18 месяцев.

Инвестиции в ИИ также ускоряются, поскольку почти 80% организаций планируют выделить более $1 миллиона на ИИ-агентов в предстоящем году. Несмотря на высокий интерес, препятствия все еще существуют. Беспокойство о безопасности данных, устаревшей технологии и проблемах интеграции по-прежнему актуальны, причем 60% указывают риски приватности как основное препятствие.

Действительно, NIST объясняет, что агенты AI уязвимы для атак похищения, когда вредоносные инструкции, вставленные в данные, заставляют агентов выполнять вредоносные задачи. Этот риск происходит от отсутствия разделения между доверенными внутренними инструкциями и внешними данными.

Ключевые угрозы кибербезопасности включают удаленное выполнение кода, изъятие баз данных и автоматизированное фишинг. Эти атаки используют зависимость агентов AI от внешних данных, что потенциально может привести к несанкционированным действиям, таким как выполнение вредоносных скриптов, кража пользовательских данных или распространение вредоносных программ.

Кроме того, в отчете указывается, что скепсис сотрудников и страхи перед галлюцинациями искусственного интеллекта способствуют недоверию и замедлению процесса внедрения. Тем не менее, по мере развития агентов искусственного интеллекта организации нацелены на использование их возможностей для преобразования отраслей.

Тем временем Университет Кембриджа недавно предупредил о потенциально дистопическом будущем, в котором помощники искусственного интеллекта могли бы в реальном времени предсказывать и продавать намерения пользователей. Эта «Экономика намерений,» управляемая искусственным интеллектом, могла бы использовать интимные психологические данные для влияния на решения в масштабе, включая такие личные действия, как голосование или выбор покупок.

Исследователи утверждают, что эта технология может манипулировать человеческим поведением в коммерческих, политических или корпоративных целях, что вызывает серьезные опасения относительно ее этических последствий.

Ведущие технологические компании, такие как OpenAI и Apple, уже инвестируют в AI системы, которые предсказывают человеческие намерения, что может дополнительно подстегнуть этот новый рынок.