Google Обновляет Правила для Борьбы с Несогласованными Эксплицитными Дипфейками

Вчера Google объявил о значительных обновлениях политики, направленных на помощь людям в контроле непристойных «дипфейков». Это изображения и видео, созданные с помощью ИИ, которые изображают людей в сексуальном контексте без их согласия.

Среди ключевых обновлений люди могут запросить удаление нежелательных фальшивых изображений из Поиска. Google упростил этот процесс и сделал его более эффективным. Если запрос успешен, системы Google также отфильтруют все непристойные результаты по аналогичным запросам и удалят дубликаты.

Кроме того, для борьбы с вредоносным контентом, Google обновил свои системы ранжирования, чтобы приоритизировать информацию высокого качества. Обновления ранжирования будут снижать количество явно фальшивого контента в результатах поиска. При поиске, осуществляемом специально для получения эксплицитного контента с именами людей, приоритет будет отдаваться содержанию высокого качества, не являющемуся эксплицитным. Это снизило уровень подверженности эксплицитным изображениям более чем на 70%.

Google также работает над тем, чтобы лучше различать реальный, согласованный эксплицитный контент и фальшивый эксплицитный контент. Сайты с большим количеством удаленных фальшивых эксплицитных изображений будут понижены в рейтинге.

Поддерживая неотложность этих обновлений, независимый исследователь недавно поделился исследованием с WIRED, показывающим широкий охват нежелательных видео deepfake. Исследование показывает, что как минимум 244,625 видео было загружено на 35 крупнейших сайтах, на которых размещается порнография deepfake, за последние семь лет. Заметно, что 113,000 из этих видео были загружены только в первые девять месяцев 2023 года — это увеличение на 54 процента по сравнению со всем количеством видео, загруженных в 2022 году. Эти тревожные цифры подчеркивают растущее распространение этого вредоносного контента.

Отчет WIRED в марте показал, что Google получил более 13,000 запросов на удаление ссылок на откровенные deepfakes с дюжины популярных сайтов. Технологический гигант удовлетворил около 82% этих требований. Эта статистика демонстрирует значительный объем вредоносного контента и спрос на его удаление.

Личные истории подчеркивают серьезные последствия глубоких подделок. Вчера New York Times опубликовал историю Сабрины Хавелланы, восходящей звезды политики Флориды, которая обнаружила в интернете поддельные видео с собственным участием. Испытывая постоянное преследование, Хавеллана ушла из политики и выбрала менее публичную роль.

В другом случае, BBC сообщила на этой неделе, что семья утверждает, что полиция Западного Йоркшира не смогла защитить их 12-летнюю дочь. Издеватели разместили в Snapchat поддельное эксплицитное изображение девочки. Сначала полиция сообщила семье, что ничего не может сделать, поскольку Snapchat базируется в США. Изображение травмировало девочку и широко распространилось.

Обновления политики Google являются значительным шагом в решении кризиса, связанного с созданием фальшивых видео (deepfake). Однако сложность данной проблемы требует постоянных усилий и сотрудничества для ее полного решения.