Полиция использует ботов на основе ИИ для выдачи себя за жертв торговли людьми в интернете

Полицейские департаменты, расположенные рядом с границей США-Мексика, используют ботов с искусственным интеллектом, выдающих себя за граждан в интернете, для расследования преступлений, что вызывает опасения по поводу гражданских свобод.

Согласно подробному отчету 404 Media, полицейские департаменты США, расположенные рядом с границей Мексики, тихо используют ботов с искусственным интеллектом, которые выдают себя за протестующих, секс-работников, детей и преступников, чтобы собрать информацию в интернете.

Технология, называемая Overwatch, продается компанией из Нью-Йорка под названием Massive Blue. 404 Media сообщает, что эти боты разработаны для того, чтобы обмануть подозреваемых и заставить их раскрывать информацию через социальные сети, текстовые сообщения или мессенджеры.

404 Media получила документы, разоблачающие использование полицейскими департаментами AI-персон для отслеживания лиц, подозреваемых в торговле людьми, распространении наркотиков, а также людей, которые были помечены как «радикализированные активисты» и «студенческие протестующие».

404 Media сообщает, что система AI-наблюдения от Massive Blue работает по контракту на $360,000 с округом Пинал, Аризона, которая финансируется из гранта по борьбе с торговлей людьми. Соглашение предусматривает непрерывное наблюдение и позволяет создать до 50 AI-персонажей. Другой округ, Юма, испытал систему, но отказался от ее продления, заявив: «Она не удовлетворяет нашим потребностям.»

AI-боты поражают своей детализацией, как отметило 404 Media. Например, один из персонажей — это «Джейсон», застенчивый 14-летний мальчик из Лос-Анджелеса, который говорит на испанском и любит аниме. В сценарном обмене взрослый спрашивает его:

“Твои родители рядом? Или ты проводишь потрясающее время в одиночестве?”
«Просто расслабляюсь один, чувак. Мама на работе, папа уехал из города,» — отвечает Джейсон.

Еще один AI-персонаж — это 25-летняя женщина-йеменка-американка, говорящая по-арабски и использующая приложения вроде Telegram и Signal. Также есть «радикализированная протестующая личность», выдающая себя за одинокого 36-летнего активиста, интересующегося телопозитивом и выпечкой.

«Эта идея о том, что AI притворяется кем-то, подростком, ищущим педофилов в интернете, или кем-то, кто выдает себя за террориста, — это идея, которая существует уже долгое время,» — сказал Дэйв Маас из Фонда Электронной Границы, как сообщает 404 Media.

«Проблема со всеми этими вещами в том, что это плохо определенные проблемы. Меня не волнуют эскортницы. Меня не волнуют студенты-протестующие. Так что, в чем она эффективна, нарушая права протестующих на свободу слова по Первой поправке?» — добавил Дэйв.

Несмотря на все это, 404 Media сообщает, что в округе Пинал еще не было ни одного ареста. «Massive Blue выдала информацию, которую детективы активно расследуют», — сказал представитель Сэм Сальцведель. «Но мы не можем раскрывать дальнейшие подробности», — добавил он.