Правительство Великобритании разрабатывает спорный инструмент ИИ для «предсказания убийств»

Правительство Великобритании работает над спорным проектом, который использует искусственный интеллект для прогнозирования тех, кто может совершить убийство в будущем.

Существование программы стало известно благодаря запросам в рамках свободы доступа к информации, полученным сторожевой группой Statewatch.

Их открытия предполагают, что используются чувствительные персональные данные. В их число входят медицинские карты, информация о психическом здоровье, история зависимостей, а также данные о людях, которые не были осуждены за какие-либо преступления.

Statewatch сообщает, что Министерство юстиции (MoJ) возглавляет этот план, изучая существующие записи о лицах от властей с целью предотвращения серьезных преступлений.

Изначально он носил название «проект по прогнозированию убийств», но теперь его называют «обмен данными для улучшения оценки риска». Проект находится на стадии исследования, но активисты и защитники приватности уже выразили свою обеспокоенность, как сообщает Statewatch.

Однако, официальные лица отрицают это. The Guardian сообщает, что представитель Министерства юстиции заявил: «Этот проект проводится только в исследовательских целях. Он был разработан на основе существующих данных, которыми обладают служба тюрем и исправительных учреждений Ее Величества, а также полиция, о лицах, осужденных за преступления, чтобы помочь нам лучше понять риск того, что люди на условно-досрочном освобождении совершат серьезные насильственные преступления. Отчет будет опубликован в ближайшее время.»

Согласно информации от Statewatch, полиция в Большом Манчестере поделилась данными о до полумиллиона людей. Это включало жертв, подозреваемых и людей в уязвимом положении.

София Ляйл, исследовательница в Statewatch, резко критиковала проект, говоря: «Попытка Министерства юстиции создать эту систему предсказания убийств — это последний пугающий и дистопический пример стремления правительства разработать так называемые системы ‘предсказания’ преступлений».

Она предупредила, что система усилит расовую и классовую дискриминацию: «Эта последняя модель, которая использует данные от нашей полиции и Министерства внутренних дел, пронизанных институциональной расовой дискриминацией, укрепит и увеличит структурную дискриминацию, лежащую в основе уголовно-правовой системы».

«Использование таких чувствительных данных о психическом здоровье, зависимости и инвалидности является крайне навязчивым и тревожным», — добавила она.

Правительство утверждает, что подобные инструменты могут улучшить работу служб исполнения наказаний по оценке риска и предотвращению насильственных преступлений. Однако критики говорят, что система может привести к тому, что люди будут несправедливо помечены как потенциальные убийцы из-за ошибочных и предвзятых данных.

Правительство утверждает, что эти инструменты улучшат способность служб исполнения наказаний оценивать риск и предотвращать насильственные преступления. Критики, однако, предупреждают, что система рискует помечать людей как потенциальных убийц из-за плохих и предвзятых данных.

Хотя система все еще находится в стадии разработки, Statewatch сообщает, что в документах упоминается о «будущем внедрении» этой системы, вызывая опасения, что она может быть скоро использована в реальных решениях полицейского управления.