Отсутствие раскрытия информации при арестах с помощью AI технологии распознавания лиц вызывает опасения

Сегодняшнее расследование, опубликованное The Washington Post, показывает, что сотни американцев были арестованы благодаря технологии распознавания лиц, при этом им никогда не сообщали об использовании этой технологии.

В ходе расследования было обнаружено более 1000 уголовных дел в 15 штатах, в которых полиция не раскрывала свою зависимость от этой технологии, часто скрывая ее роль, приписывая опознание подозреваемого «следственным методам» или свидетелям.

Это отсутствие прозрачности вызывает опасения относительно справедливости, особенно учитывая, что было доказано, что программное обеспечение для распознавания лиц склонно к ошибкам, особенно при идентификации людей цвета кожи.

Например, вспомним случай Роберта Уильямса, чернокожего мужчины, который достиг соглашения с городом Детройт после его ошибочного ареста в 2020 году из-за некорректной работы системы распознавания лиц.

«Пост» сообщает, что федеральные тесты показывают: ведущее программное обеспечение для распознавания лиц чаще ошибается при идентификации определенных групп, включая людей цвета, женщин и пожилых людей.

Причина этому — недостаточное представление их черт лица в данных, используемых для обучения алгоритмов. Эту информацию предоставил Патрик Гротер, который руководит тестированием биометрии в Национальном институте стандартов и технологий в Вашингтоне, как сообщает «Пост».

The Post сообщил, что в Эвансвилле, штат Индиана, и Пфлюгервилле, штат Техас, подозреваемых идентифицировали с помощью технологии распознавания лиц, но им никогда не сообщали о её роли в их аресте. Полиция указывала физические особенности или следственные базы данных, скрывая участие программного обеспечения.

Этот паттерн был распространён среди многих отделов, с тем что только 30 из 100 предоставили соответствующие записи The Post, отражая более широкую неохоту раскрывать использование технологии распознавания лиц.

The Post объясняет, что программное обеспечение для распознавания лиц, такое как Clearview AI, работает, сравнивая изображения с мест преступления с огромными базами данных фотографий, включая снимки для уголовного дела и изображения из социальных сетей.

Критики утверждают, что такая практика ставит невинных людей под угрозу быть ложно обвиненными в преступлениях просто потому, что их изображение появляется в интернете, как сообщает The Post. Группы защиты гражданских прав и адвокаты-защитники утверждают, что люди имеют право знать, когда их идентифицируют с помощью такой технологии, особенно учитывая ее подверженность ошибкам, отмечает The Post.

The Post сообщает, что в некоторых недавних судебных делах результаты распознавания лиц успешно оспаривались из-за вопросов, связанных с надежностью этой технологии. Однако The Post отмечает, что полицейские департаменты продолжают защищать свою практику неразглашения, причем некоторые ссылаются на следственный привилегии в качестве обоснования.

Несмотря на растущую обеспокоенность, федеральное законодательство в настоящее время не требует от полиции раскрывать использование технологии распознавания лиц, говорит The Post. В некоторых штатах, таких как Нью-Джерси, суды постановили, что подсудимые имеют право знать, использовалось ли распознавание лиц в их деле.

Однако, как отметили в The Post, большинство штатов не имеют такого требования, оставляя обвиняемых в неведении о том, какую роль могла сыграть ИИ в их арестах.