Google снимает запрет на использование ИИ для оружия и технологий наблюдения

Alphabet, родительская компания Google, отменила свое обещание не использовать искусственный интеллект для разработки оружия или инструментов слежения.

Во вторник, незадолго до публикации отчета о меньших, чем ожидалось, прибылях, компания обновила свои принципы этики ИИ, удалив ссылки на избегание технологий, которые могут причинить вред, как сообщает The Guardian.

Руководитель отдела искусственного интеллекта Google, Демис Хассабис, объяснил, что руководящие принципы пересматриваются для адаптации к меняющемуся миру, где ИИ теперь считается ключевым для защиты «национальной безопасности.»

В блоге, Хассабис и старший вице-президент Джеймс Маника подчеркнули, что по мере усиления глобальной конкуренции в области ИИ, компания уверена, что «демократии должны лидировать в развитии ИИ», руководствуясь принципами «свободы, равенства и уважения к правам человека.»

WIRED подчеркнул, что Google поделился обновлениями своих принципов ИИ в заметке, добавленной в верхнюю часть блог-поста 2018 года, представляющего эти руководящие принципы. «Мы обновили наши принципы ИИ. Посетите AI.Google для получения последней информации,» — гласит заметка.

Aljazeera сообщила, что Google впервые представил свои принципы ИИ в 2018 году после протестов сотрудников против участия компании в проекте Project Maven отдела обороны США, который изучал использование ИИ для помощи военным в определении целей для ударов дронов.

В ответ на общественное возмущение, которое привело к увольнениям сотрудников и тысячам петиций, Google решил не продлевать свой контракт с Пентагоном. Позже в том же году Google также отказался от конкуренции за контракт на облачные вычисления с Пентагоном стоимостью 10 миллиардов долларов, мотивируя это проблемами соответствия проекта его принципам работы с искусственным интеллектом, как отметило Aljazeera.

Обновление этической политики Google также последовало после участия генерального директора Alphabet Inc. Сундара Пичаи, наряду с такими лидерами технологической индустрии, как Джефф Безос из Amazon и Марк Цукерберг из Meta, на инаугурации президента США Дональда Трампа 20 января.

Однако, в вторник в своем объявлении Google пересмотрела свои обязательства в области ИИ. Обновленная веб-страница больше не содержит конкретных запретов на использование его проектов ИИ, вместо этого предоставляя компании больше гибкости для исследования чувствительных областей применения.

В измененном документе теперь подчеркивается, что Google будет соблюдать «надлежащий человеческий контроль, тщательную проверку и механизмы обратной связи, чтобы соответствовать целям пользователей, социальной ответственности и общепринятым принципам международного права и прав человека». Кроме того, компания заявляет о своем намерении «смягчить непреднамеренные или вредные последствия».

Однако эксперты предупреждают, что искусственный интеллект может вскоре быть широко применен на поле боя, хотя растут опасения относительно его использования, особенно в отношении автономных систем вооружения.

«Тот факт, что глобальный лидер отрасли отказывается от самими собой установленных границ, сигнализирует об опасной смене курса, в то время когда нам больше чем когда-либо требуется ответственное руководство в области искусственного интеллекта, » — сказала Анна Баччиарелли, старший исследователь в области искусственного интеллекта в организации Human Rights Watch, как сообщает BBC.

Баччиарелли также отметила, что «одностороннее» решение подчеркивает, «почему добровольные принципы не являются адекватной заменой регулированию и обязательному законодательству».