Первый известный случай использования AI-чатботов для преследования

Джеймс Флоренс, 36 лет, согласился признать себя виновным в семилетней кампании киберпреследования, которая включала использование AI-чатботов для подражания профессору университета и приглашения незнакомцев к ней домой для сексуальных встреч.

Флоренция из Массачусетса использовала платформы, такие как CrushOn.ai и JanitorAI, чтобы создать персонализированные чат-боты, которые имитировали ответы профессора и заставляли пользователей думать, что они общаются с ней, как сообщает The Guardian.

Согласно документам суда, которые изучила газета The Guardian, Флоренс использовала личную и профессиональную информацию профессора — такую как ее домашний адрес, дату рождения и сведения о семье — чтобы настроить чат-ботов на ведение сексуально-откровенных разговоров.

AI-боты были запрограммированы подтверждать сексуальные предпочтения и даже предоставлять интимные подробности о жертве. Флоренс, который украл нижнее белье из дома профессора, направлял ботов на информацию о ее предпочтениях в одежде и призывал их настоятельно рекомендовать пользователям посетить ее дом.

Дело, поданное в федеральный суд штата Массачусетс, ставит важный юридический прецедент как первый известный случай использования искусственного интеллекта сталкером для имитации своей жертвы с целью организации преследования, сообщает The Guardian. Флоренс готовится признать свою вину по семи обвинениям в киберпреследовании и одному обвинению в хранении детской порнографии.

Стефан Туркхаймер, вице-президент по вопросам государственной политики в Rainn, некоммерческой организации, противодействующей сексуальному насилию, описал это дело как проявление тревожного нового тренда в злоупотреблении искусственным интеллектом.

«Это вопрос выделения кого-то с целью потенциального сексуального насилия», — сказал он, как сообщает The Guardian. «Инструменты, которые он смог использовать здесь, действительно сделали ущерб намного хуже», — добавил он.

Флоренс, который однажды был другом профессора, пошел дальше, создавая чат-ботов. Он создавал поддельные аккаунты в социальных сетях и сайты для выдачи себя за жертву, распространяя эксплицитные, поддельные изображения ее, вместе с персональными данными, как сообщает The Guardian.

Платформы, такие как Craigslist, Reddit, X и Linktree, использовались для унижения профессора и распространения фальшивого контента. На одном из сайтов, ladies.exposed, были размещены фотоколлажи профессора вместе с ее домашним адресом и номером телефона, как сообщает The Guardian.

Эти действия продолжались на протяжении нескольких лет, начиная с 2017 года. Профессор получила десятки беспокоящих сообщений и звонков, включая голосовое сообщение, ложно утверждающее, что ее отец погиб в автокатастрофе, как сообщает The Guardian.

Жертва и ее муж стали все больше беспокоиться о своей безопасности, в конечном итоге установив систему видеонаблюдения в своем доме и приняв другие меры предосторожности.

Оскорбления не остановились на профессоре. Флоренс направила свои атаки на нескольких других женщин и 17-летнюю девочку, цифровым образом изменяя их изображения, чтобы создать сексуально непристойный контент.

Этот тревожный тренд использования ИИ для харассмента становится все более актуальной проблемой, поскольку отчеты показывают, что в такой манере эксплуатируются также и несовершеннолетние.