Правительство Великобритании не раскрывает информацию об использовании ИИ, нарушая требования к прозрачности

Правительство Великобритании подвергается критике за отсутствие документирования использования ИИ в обязательном реестре, что вызывает проблемы прозрачности и ответственности в условиях растущего применения.

Правительство Великобритании подвергается критике за отсутствие данных об использовании систем искусственного интеллекта в обязательном общественном реестре, что вызывает опасения по поводу прозрачности и контроля над технологиями, которые могут затронуть миллионы жизней. Об этом в четверг сообщила газета The Guardian.

Несмотря на то, что в феврале 2024 года было объявлено, что все департаменты Вайтхолла должны документировать свое использование ИИ, ни один из них не выполнил эти требования, оставив государственный сектор «летать в темноте» при принятии алгоритмической технологии, как отмечает The Guardian.

ИИ уже глубоко внедрен в принятие решений правительством, влияя на такие области, как социальные выплаты, миграционное регулирование и полицию.

Однако, как отмечает The Guardian, зарегистрированы лишь девять алгоритмических систем, исключая основные программы, используемые домашним офисом, отделом по работе и социальной защите (DWP), а также полицейскими службами.

Эта недостаточная прозрачность сохраняется, несмотря на рост контрактов на AI и алгоритмические услуги. Например, The Guardian отмечает, что недавно полицейская закупочная организация объявила о контракте на 20 миллионов фунтов стерлингов для технологии распознавания лиц, что вызвало опасения по поводу нерегулируемого биометрического наблюдения.

Секретарь по науке и технологии Питер Кайл признал проблему, заявив, что государственные департаменты не принимают прозрачность «достаточно серьезно», как сообщает The Guardian.

Он подчеркнул право общественности понимать, как используются алгоритмы, добавив, что доверие можно построить только через открытость.

The Guardian отмечает, что критики утверждают, что секретность представляет собой значительные риски. Мадлен Стоун, главный офицер по вопросам защиты прав в группе по защите приватности Big Brother Watch, предупреждала,

«Секретное использование ИИ и алгоритмов, влияющее на жизнь людей, ставит под угрозу права каждого на данные. Государственные департаменты должны быть открытыми и честными в отношении того, как они используют эту технологию,» как сообщает The Guardian.

Институт Ады Лавлейс поддержал эти опасения, подчеркнув, что не раскрытые системы искусственного интеллекта могут подорвать доверие общественности и привести к дискриминационным или неэффективным результатам, как сообщал The Guardian.

С момента введения реестра AI, в него были внесены только три системы, включая инструмент мониторинга пешеходов в Кембридже и систему анализа отзывов NHS. Тем временем, государственные организации заключили 164 контракта, связанных с AI, только в 2024 году, согласно данным компании Tussell, как сообщил The Guardian.

Высокопрофильные контракты включают партнерство NHS на сумму £330 миллионов с Palantir для создания платформы данных и инициативу по трансформации AI на сумму £7 миллионов от Совета города Дерби, сообщает The Guardian.

Домашний офис, который использует AI в работе по иммиграционному контролю, и другие департаменты отказались комментировать свое отсутствие в реестре. Однако Департамент науки и технологий утверждает, что больше записей «должны быть опубликованы в ближайшее время», сообщает The Guardian.

Ситуация заново разжгла дебаты о роли ИИ в управлении, при этом сторонники настаивают на прозрачности, чтобы смягчить вред и обеспечить общественный контроль в эпоху стремительного развития технологий.