Великобритания усиливает безопасность ИИ, заключает партнерство с Сингапуром для развития рынка доверенного ИИ

Вчера правительство Великобритании объявило о новых мерах по поддержке безопасного и ответственного использования ИИ, целью которых является стимулирование экономического роста на £6.5 миллиардов к 2035 году. Ожидается, что сектор гарантий ИИ Великобритании, который сосредоточен на обеспечении справедливости, прозрачности и безопасности систем ИИ, увеличится в шесть раз в течение следующего десятилетия.

Такой рост считается необходимым для более широкой стратегии правительства по внедрению ИИ в общественные услуги и повышению экономической производительности, при этом сохраняя доверие общественности к этим технологиям.

Питер Кайл, министр науки, инноваций и технологий, подчеркнул, что общественное доверие необходимо для полного использования потенциала ИИ в улучшении услуг и повышении производительности. Он отметил, что эти шаги направлены на то, чтобы установить Великобританию в качестве лидера в области безопасности ИИ.

Для поддержки этого расширения, Министерство науки, инноваций и технологий (DSIT) и Институт безопасности ИИ Великобритании ввели новую платформу для обеспечения работы с ИИ, разработанную для помощи британским компаниям в управлении рисками, связанными с использованием ИИ.

Платформа сосредоточит ресурсы для оценки предвзятости данных, проведения оценки воздействия и мониторинга производительности AI. Малые и средние предприятия (MSP) также получат доступ к инструменту самооценки для внедрения ответственных практик AI в своих организациях.

Великобритания также усиливает свои международные усилия по безопасности AI, заключив партнерство с Сингапуром.

Меморандум о сотрудничестве, подписанный секретарем Кайлом и министром цифрового развития Сингапура Джозефин Тео, направлен на продвижение совместных исследований и установление общих стандартов безопасности ИИ.

Это соглашение основывается на обсуждениях, проведенных на прошлогодней Саммите безопасности ИИ, и соответствует целям Международной сети институтов безопасности ИИ (AISI) — глобальной инициативы по координации усилий по безопасности ИИ.

Джозефина Тео подчеркнула, что обе страны стремятся продвигать ИИ в интересах общества, при этом гарантируя его безопасность.

«Подписание этого Меморандума о сотрудничестве с важным партнером, Великобританией, основывается на существующих общих интересах и распространяет их на новые возможности в области ИИ», — сказала Тео.

Хён Парк, генеральный директор Amalgam Insights — компании, специализирующейся на финансово ответственных IT-решениях — отмечает, что, хотя платформа позиционируется как инструмент для создания доверия к ИИ, ее основная цель — предоставление бизнесу рамки, согласованной с государственной политикой, для оценки ИИ, сообщает CIO.

Парк выразил опасения по поводу текущих возможностей платформы. «Платформа все еще довольно примитивна, с планами на создание основного инструментария, который еще предстоит полностью разработать», — сказал он, как сообщает CIO.

«Эта оценка опирается на человеческие реакции, а не на прямую интеграцию с самим ИИ, и шкала, используемая инструментом оценки, нечетка, предлагая только бинарные варианты да/нет или ответы, которые сложно количественно оценить», — добавил он.

Парк также отметил, что оценка предубеждений может быть особенно сложной. «У каждого ИИ есть свои предубеждения, и представление о том, что предубеждения можно устранить, является как мифом, так и потенциально опасным», — он заметил в CIO.

Для малого бизнеса новые требования по соблюдению нормативов, такие как оценка рисков и аудит данных, могут создать дополнительные нагрузки, возможно, растягивая ограниченные ресурсы, говорит главный информационный директор (CIO).