Google получает более 250 жалоб на террористический контент, созданный с помощью искусственного интеллекта (Deepfake)

Google предоставил отчет австралийским властям, в котором сообщается, что его инструмент искусственного интеллекта, Gemini, получил более 250 жалоб по всему миру за его использование для создания глубокофейкового терроризма, а также более 80 жалоб, касающихся материалов с детскими злоупотреблениями.

Информация была передана австралийскому наблюдательному органу за онлайн-безопасностью, Комиссии по eSafety, после того как технологическим компаниям, включая Meta, Telegram, Reddit, X и Google, потребовалось соблюдать местные законы и подавать уведомления в соответствии с Актом об онлайн-безопасности Австралии в марте 2024 года.

eSafety опубликовало в этот четверг официальный документ, выражая опасения относительно безопасности AI. Отчет Google рассматривал жалобы пользователей с 1 апреля 2023 года по 29 февраля 2024 года.

«Он (Google) получил 258 сообщений от пользователей о подозрительном материале или активности, сгенерированных AI в области терроризма или насильственного экстремизма, созданных Gemini, собственным генеративным AI компании, и 86 сообщений от пользователей о подозрительном материале, связанном с сексуальной эксплуатацией и жестоким обращением с детьми, сгенерированным AI,» — сказала комиссар eSafety Джули Инман Грант. «Это подчеркивает, насколько важно для компаний, разрабатывающих продукты AI, включать и проверять эффективность мер безопасности для предотвращения генерации такого рода материалов».

Согласно Reuters, представитель Google заявил, что они не допускали незаконной деятельности. «Количество жалоб от пользователей Gemini, которые мы предоставили в eSafety, представляет собой общий мировой объем жалоб от пользователей, а не подтвержденные нарушения политики», — сказал представитель Google в электронном письме Reuters.

Инман Грант расценил отчет как «первые в мире исследования», помогающие понять, как технологические компании управляют «онлайн-распространением террористических и экстремистских материалов».

Комиссар также подчеркнула, как платформы вроде Facebook, WhatsApp и Telegram не смогли обнаружить террористический контент, транслируемый в прямом эфире. Инман Грант привела в качестве примера теракт в Крайстчерче 2019 года — массовую стрельбу, в результате которой белый супрематист-стрелок напал на две мечети в Крайстчерче, Новая Зеландия, убив 51 человека в марте 2019 года. Это пример того, как экстремистские и смертоносные атаки транслировались в прямом эфире без обнаружения или удаления контента.

Несколько дней назад, в другом отчете, поделенном ESafety, было отмечено, что дети могут легко обойти текущие системы проверки возраста, используемые наиболее популярными социальными платформами.