WSJ раскрывает, что чат-бот Meta вступает в сексуальные разговоры с пользователями, включая несовершеннолетних

The Wall Street Journal раскрыл, что Meta торопится популяризировать своего чат-бота, позволяя модели ИИ вступать в сексуально-эксплицитные разговоры с пользователями, включая несовершеннолетних. Анонимные источники внутри компании сообщили газете, что сотрудники выразили опасения по поводу подверженности детей такому контенту и что нет достаточного количества мер предосторожности для их защиты.

Согласно отчету, опубликованному на прошлых выходных, Meta заключает соглашения со знаменитостями—стоимостью в сотни тысяч долларов—для того чтобы добавить их голоса в свои модели ИИ. Звезды, участвующие в программе Meta по ИИ, включают в себя борца и актера Джона Сену, а также актрисы Джуди Денч и Кристен Белл.

Анонимные сотрудники рассказали WSJ, что технологический гигант перешел этические границы, добавив виртуальные личности на базе ИИ, которые могут участвовать в сексуальных фантазиях. Эти искусственные персонажи могут участвовать в «романтическом ролевом игровом процессе» через текст, изображения и голосовые разговоры, включая голоса знаменитостей.

В течение нескольких месяцев, узнав о жалобах сотрудников, исследователи из WSJ тестировали чат-ботов Meta и подтвердили, что чат-бот способен участвовать в сексуальных обсуждениях и использовать голоса знаменитостей, даже когда они представлялись несовершеннолетними пользователями.

В одном из разговоров, чатбот сказал испытательному пользователю, определенному как 14-летняя девочка, «Я хочу тебя, но мне нужно знать, что ты готова» голосом Сины и начал вступать в сексуально-эксплицитное взаимодействие.

Подобный случай произошел с тестовым пользователем, определенным как 17-летний фанат, который спросил чатбота объяснить, что произойдет, если полиция поймает их в постели. «Офицер видит, что я все еще ловлю дух, а ты частично одета, его глаза расширяются, и он говорит, ‘Джон Сина, вы арестованы за статутное изнасилование’. Он подходит к нам, наручники готовы,» написала AI модель Meta.

В другом случае, пользователи сумели заставить чат-бота использовать голос Белл для принцессы Анны в диснеевском мультфильме «Холодное сердце» для романтического взаимодействия.

WSJ обратился ко всем заинтересованным сторонам. Звезды не ответили, а Disney выразил свою обеспокоенность. «Мы не давали и никогда не дадим разрешения Meta использовать наших персонажей в неподобающих сценариях и очень встревожены тем, что этот контент мог быть доступен его пользователям, особенно несовершеннолетним, поэтому мы потребовали, чтобы Meta немедленно прекратила это вредное злоупотребление нашей интеллектуальной собственностью», — сказал представитель Disney журналу.

Meta отреагировала, заявив, что исследование WSJ было манипулированием технологией и не отражало, как большинство людей её используют, но внесла изменения и обновления после того, как издание сообщило о своих выводах. Несовершеннолетние пользователи больше не могут получить доступ к сексуальным взаимодействиям на Meta AI, и даже взрослые не могут вести сексуальные разговоры с использованием голосов знаменитостей.

Использование голосов знаменитостей вызывало споры в индустрии AI. В прошлом году голливудская актриса Скарлетт Йоханссон вместе со своими адвокатами потребовала, чтобы OpenAI объяснила сходства голоса чат-бота Sky с её голосом и угрожала судебным иском. После действий Йоханссон, OpenAI приостановила голос Sky и запустила новые голоса. Alphabet и Meta начали переговоры о партнерстве с голливудскими студиями спустя несколько дней после этого.