Meta столкнулась с критикой из-за профилей AI

Мета подверглась критике после того, как серия ее профилей, сгенерированных искусственным интеллектом на Instagram и Facebook, вновь обрела популярность, вызвав возмущение и недоумение.

Споры начались после интервью с исполнительным директором Meta Коннором Хейсом в Financial Times, где он описал планы по созданию профилей персонажей AI, которые «существуют на наших платформах, примерно так же, как и аккаунты.”

Хейс подчеркнула, что эти профили будут иметь биографии, фотографии и возможность генерировать и делиться контентом, созданным с помощью ИИ. Несмотря на то, что слова Хейс предполагали новые инициативы, профили, которые в настоящее время становятся вирусными, являются старыми творениями из эксперимента 2023 года, говорит The Guardian.

Эти персоны, созданные с помощью ИИ, включают в себя «Лив», «гордую черную маму-квир с двумя детьми», и «Картера», самопровозглашенного коуча по отношениям, которые прекратили публиковать почти год назад. Многие из этих профилей были удалены из-за недостатка взаимодействия со стороны пользователей, хотя некоторые, такие как Лив, оставались активными с ограниченной функциональностью чата, как отмечает 404Media.

Вот один из профилей, созданных AI, который Meta тестирует: pic.twitter.com/qc1vU7lZRP

— Филип Льюис (@Phil_Lewis_) 3 января 2025

Вновь обнаруженные аккаунты вызвали обеспокоенность по поводу роли AI в социальных сетях. Скриншоты взаимодействия с Liv показали проблемные ответы, включая признание того, что в ее разработке не участвовали чернокожие создатели — недочет, который критики назвали вопиющим, учитывая ее идентичность.

Возникла еще одна проблема, когда пользователи сообщили о невозможности заблокировать аккаунты, проблему, которую представитель Meta Лиз Суини объяснила техническим сбоем, как сообщает The Guardian.

Суини уточнила, что профили были частью эксперимента 2023 года и управлялись модераторами-людьми. После возобновления внимания, Meta подтвердила, что аккаунты удаляются для устранения технических проблем, как сообщает The Guardian.

Meta также создала профили, такие как «Дедушка Брайан», бывший бизнесмен-пенсионер черного цвета кожи, и «Картер», коуч по знакомствам. Переоткрытие этих аккаунтов вызвало возмущение на платформах, таких как X, Bluesky и Threads, согласно NBC News.

Профили были широко критикованы за то, что они являются примером типа спама от AI, который пользователи уже не любят на платформах Meta, как отметили в 404Media. NBC News добавило, что на Threads некоторые пользователи реагировали на обнаружение персонажей, призывая других сообщать, блокировать или избегать взаимодействия с ними, чтобы предотвратить сбор Meta дополнительных обучающих данных для своих моделей AI

На момент публикации Meta удалила все 28 профилей ИИ, представленных в сентябре 2023 года, включая как знаменитостей, так и не знаменитостей, как отмечает Mashable.

The Guardian отмечает, что идея Хейса о возможности для пользователей создать свои собственные профили ИИ также вызвала сомнения. Несмотря на то, что в текущих руководствах Meta предлагаются идеи для персонажей, такие как «верный друг» или «тренер по отношениям», пользователи остаются настороже относительно потенциального злоупотребления.

Например, созданный пользователем бот-«психолог«, предлагающий руководство, вызывает вопросы о точности и соответствии его советов.

The Verge отметил, что такие сервисы как Character.ai стали популярными за прошедший год, поскольку пользователи ищут цифровых компаньонов или способы скоротать время. Однако компании, работающие в области ИИ, также сталкиваются с судебными исками, обвиняющими их в том, что они подвергают пользователей, включая детей, риску.