Законопроект Калифорнии вводит новые правила для ИИ

Законодательная ассамблея штата Калифорния одобрила Закон о безопасности и защите инноваций в области передовых моделей искусственного интеллекта (SB 1047) после многих поправок, внесенных ранее в этом месяце.

Законопроект был представлен сенатором штата Скоттом Винером. Целью SB 1047 является снижение рисков, связанных с продвинутым ИИ, такими как автономное оружие или крупномасштабные кибератаки. Более того, как сообщает Business Insider (BI), в законопроекте требуется от компаний, разрабатывающих модели ИИ, внедрение мер безопасности, включая аварийные стоп-кнопки и тестирование третьими сторонами.

Основные положения законопроекта SB 1047 включают строгие протоколы безопасности для разработчиков «покрытых моделей», которые представляют собой крупномасштабные AI модели, требующие значительной вычислительной мощности для обучения и способные причинить существенный вред.

Эти протоколы требуют от разработчиков внедрения всесторонних мер безопасности для решения рисков, таких как непредвиденные последствия или злонамеренное использование. Кроме того, разработчики должны проходить ежегодные независимые аудиты для обеспечения соблюдения требований и сообщать о любых инцидентах с безопасностью AI Генеральному прокурору в течение 72 часов.

Законопроект также возлагает обязанности на операторов вычислительных кластеров, требуя от них идентификации клиентов, обучающих эти высокорисковые модели, и принятия мер для снижения потенциальных опасностей.

SB 1047 вызвал значительные дебаты в технологической индустрии. В то время как сторонники утверждают, что это необходимо для защиты общественности от потенциальных опасностей передового ИИ, противники высказывают опасения относительно его возможного влияния на инновации.

Критики также утверждают, что регулирование может обременить компании, ограничивая их способность конкурировать с крупными технологическими гигантами. Однако, сенатор Винер защитил законопроект, подчеркивая, что он направлен на компании, тратящие более 100 миллионов долларов на разработку ИИ, освобождая от этого малые стартапы, как сообщает Fortune.

Илон Маск, главный исполнительный директор X и основатель xAI, выразил поддержку законопроекту. Он признал, что это может вызвать недовольство некоторых, но подчеркнул необходимость регулирования для предотвращения общественных рисков.

Однако другие крупные компании в области ИИ и эксперты выразили свое несогласие. Например, LA Times сообщает, что главный стратегический директор OpenAI Джейсон Квон написал в письме Винеру: «Федеральный комплекс политик в области ИИ, а не мозаика законов отдельных штатов, будет способствовать инновациям и позволит США лидировать в разработке глобальных стандартов».

Кроме того, профессор Стэнфорда Фэй-Фей Ли, эксперт в области ИИ, утверждает, что, хотя законодательство и носит добрые намерения, оно может иметь серьезные непредвиденные последствия, включая нанесение ущерба сообществу открытого исходного кода и ограничение академического доступа к ключевым моделям ИИ.

Несмотря на все споры, в законопроекте SB 1047 также предлагается создание CalCompute — общедоступной облачной вычислительной системы, чтобы поддержать ответственное развитие ИИ и обеспечить исследователей и разработчиков доступом к необходимым ресурсам.

Хотя данный законопроект является значительным шагом в сторону регулирования ИИ в Калифорнии, как критики, так и сторонники признают, что быстро изменяющийся ландшафт ИИ может потребовать дальнейшей переработки закона для решения возникающих проблем и возможностей.