Влияние крупных технологических компаний на стандарты ИИ в ЕС вызывает опасения

Крупные технологические компании в значительной степени влияют на разработку стандартов ИИ в ЕС, согласно отчету кампании Corporate Europe Observatory (CEO).

В докладе высказаны опасения относительно инклюзивности и справедливости процесса установки стандартов, который лежит в основе недавно одобренного Европейским Союзом Акта об искусственном интеллекте.

Закон об ИИ, принятый в августе 2024 года, предусматривает подход, основанный на уровне риска, классифицируя системы ИИ по уровням риска. В то время как системы высокого риска, такие как те, что используются в здравоохранении и судебной системе, подлежат более строгим требованиям, конкретные руководящие принципы до сих пор остаются неопределенными, как отметил генеральный директор.

Более половины (55%) из 143 членов Совместного технического комитета по ИИ (JTC21), созданного европейскими органами по стандартизации CEN и CENELEC, представляют корпоративные или консультационные интересы.

Отчет критикует большинство организаций, устанавливающих стандарты, таких как CEN и CENELEC, за то, что они являются частными и не обладают демократической ответственностью. Эти организации часто взимают высокие платы и работают с ограниченной прозрачностью, что затрудняет участие гражданского общества.

Тем временем, гражданское общество сталкивается с логистическими и финансовыми барьерами для участия. Только 23 представителя (16%) в выборке Corporate Europe Observatory были из академической среды, и всего 13 (9%) представляли гражданское общество.

В то время как организации Аннекса III ЕС отстаивают интересы общества, они не имеют права голоса и ресурсов по сравнению с корпоративными участниками. Oracle, крупная технологическая корпорация, публично приветствовала свое участие в стандартизации AI, утверждая, что ее усилия обеспечивают «этичные, надежные и доступные» стандарты, как сообщил генеральный директор.

Тем не менее, отчет утверждает, что такие корпорации, как Oracle, которая имеет связи с глобальными системами слежения, отдают предпочтение легким регулированиям, которые соответствуют их интересам, а не затрагивают фундаментальные права. Подобное участие компаний, таких как Microsoft, Amazon и Google, вызывает опасения ослабления гарантий в рамках Закона об AI.

Брам Вранкен, исследователь из CEO, выразил обеспокоенность по поводу этой передачи полномочий по формированию государственной политики.

«Решение Европейской комиссии доверить формирование государственной политики в области ИИ частному органу глубоко проблематично. Впервые стандарты используются для внедрения требований, связанных с основными правами, справедливостью, доверием и предубеждением», — сказал он, как сообщает Euro News.

CEN и CENELEC не раскрывали участников в разработке своих стандартов ИИ. Запросы генерального директора на списки участников комитета JTC21 были проигнорированы, а их Кодекс поведения требует секретности в отношении личности участников и их принадлежности.

Генеральный директор описал эти правила как чрезмерно ограничительные, препятствующие открытому обсуждению состава комитета.

В ответ на доклад Европейская комиссия заявила, что гармонизированные стандарты будут проходить оценку, чтобы убедиться, что они соответствуют целям Закона об ИИ. Государства-члены и Европейский парламент также сохраняют за собой право оспаривать эти стандарты, сообщает Euro News.

В заключении, законодатели делегировали задачу внедрения этих стандартов частным организациям. Группы гражданского общества и независимые эксперты, которым часто не хватает финансирования и численности, стараются противостоять доминированию корпораций.

Этот дисбаланс рискует подрывать защиту от дискриминации, нарушения конфиденциальности и других основных прав, оставляя главным образом формирование управления AI в Европе под влиянием интересов индустрии.