Искусственный интеллект и кибербуллинг: История подростка вызывает возмущение

В 14 лет Франческа Мани была вызвана в кабинет директора Хай-скул Вестфилд, Нью-Джерси, где она обнаружила, что ее фотографию изменяли до обнаженного изображения с помощью искусственного интеллекта, как сообщает CBS News.

В прошлом октябре, по Westfield High разнеслись слухи о том, что у парней есть откровенные снимки своих одноклассниц. Мани узнала, что она и несколько других девушек стали целью.

Согласно иску, поданному другой жертвой, мальчик загрузил фотографии из Instagram на Clothoff, популярный AI-управляемый сайт «nudify». Сайт, который получил более 3 миллионов посещений в прошлом месяце, создает реалистичные поддельные обнаженные фотографии за считанные секунды, как сообщает CBS.

Clothoff утверждает, что запрещает обработку фотографий несовершеннолетних, но его механизмы не проверены. Несмотря на отказы сайта, как минимум одно AI-изображение обнаженного студента было якобы распространено в Snapchat, как сообщает CBS.

Мани никогда не видела поддельное изображение себя, но была глубоко потрясена тем, как школа реагировала на ситуацию. Жертвы были публично вызваны в кабинет, в то время как мальчиков, участвовавших в этом, тайно убрали из класса.

«Мне кажется, что это было жестким нарушением нашей приватности, в то время как, скажем, негодяи были выведены из класса наедине», — сказала Мани, как сообщает CBS.

В тот же день директор школы отправил родителям письмо по электронной почте, подтверждая, что ученики использовали ИИ для создания откровенных изображений, сообщает CBS. В письме гарантировалось родителям, что изображения были удалены и не распространяются, но мать Мани, Дорота, оставалась скептически настроенной.

«Вы не можете это просто стереть», — сказала Дорота CBS, выразив опасения относительно скриншотов или загрузок.

Школьный округ отказался предоставить подробности об инциденте или дисциплинарных мерах, но заявил, что обновил свои политики противдействия домогательству, чтобы решить проблему злоупотребления ИИ — изменение, которое семья Манис настаивала в течение нескольких месяцев, как сообщает CBS.

Главный юрисконсульт Национального центра поиска и защиты детей, Йота Сураш, подчеркнула долгосрочный вред, который такие изображения могут нанести, даже если они подделка. Жертвы часто страдают от психологического стресса, ущерба репутации и потери доверия, как отмечает CBS.

CBS сообщает, что за последние 20 месяцев в американских школах появилось почти 30 похожих случаев с использованием AI в создании обнаженных фотографий, а также сообщается о дополнительных инцидентах по всему миру.

По меньшей мере в трех случаях для распространения изображений использовался Snapchat. Родители сообщают о задержках до восьми месяцев в удалении такого контента с платформы, как сообщает CBS.

Snapchat, в ответ на критику одного из родителей, заявил, что имеет «эффективные механизмы» для обработки таких жалоб и утверждает, что у него «политика нулевого толерантности» к такому контенту, сообщает CBS.

Федеральный закон запрещает искусственно созданную детскую порнографию, если она изображает сексуально эксплицитное поведение, однако Саурас предупреждает, что некоторые обнаженные изображения, созданные с помощью ИИ, могут не подпасть под юридическое определение, отмечает CBS.

С тех пор как произошел инцидент, Франческа и Дорота Мани выступают за политику, связанную с ИИ, в школах и сотрудничают с Конгрессом для решения этой проблемы, сообщает CBS.

Федеральный законопроект под названием «Закон о запрете», совместно предложенный сенаторами Тедом Крузом и Эми Клобушар, был принят Сенатом в этом месяце и ожидает голосования в Палате представителей. Законодательство предлагает уголовные наказания за распространение обнаженных фотографий, созданных с помощью ИИ, и обязывает социальные медиа-платформы удалять помеченный контент в течение 48 часов, сообщает CBS.