Google DeepMind запускает открытый инструмент для водяных знаков, чтобы помочь обнаружить текст, сгенерированный искусственным интеллектом

Google DeepMind запустил открытый инструмент для водяных знаков под названием SynthID-Text в эту среду, чтобы помочь обнаруживать текст, сгенерированный искусственным интеллектом. Инструмент доступен бизнесу и разработчикам бесплатно и работает путем внедрения невидимых водяных знаков – незаметных для человеческого глаза – в текст во время генерации, изменяя вероятности слов.

«Здесь мы описываем SynthID-Text, готовую к использованию схему текстовых водяных знаков, которая сохраняет качество текста и обеспечивает высокую точность обнаружения, с минимальной задержкой,» — говорится в резюме исследования, опубликованного в Nature. «Чтобы обеспечить внедрение водяных знаков в масштабах, мы разработали алгоритм, интегрирующий водяные знаки с предполагаемым выбором, техникой эффективности, часто используемой в производственных системах.»

Согласно MIT Technology Review, лаборатория исследований ИИ технологического гиганта разработала технологию SynthID для создания нескольких инструментов с водяными знаками ИИ, которые теперь могут распознавать текст, музыку, видео и изображения, сгенерированные ИИ. Google DeepMind поделился видео, объясняющим, как работает технология с различными типами медиа.

Вот как SynthID наносит водяные знаки на контент, сгенерированный ИИ в разных областях. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 23 октября, 2024

SynthID доступен через набор инструментов Google Responsible Generative AI Toolkit, и исследователи, совместно с Hugging Face — коллаборативной платформой для разработчиков, которая также предлагает другие открытые проекты, такие как руководство LeRobot по созданию домашних роботов на базе AI, планируют разместить его на своем сайте.

«Теперь другие разработчики [генеративного] AI смогут использовать эту технологию, чтобы определить, были ли текстовые выводы созданы их собственными [большими языковыми моделями], что облегчит задачу более ответственного создания AI для большего числа разработчиков», — сообщил Пушмит Кохли, вице-президент по исследованиям в Google DeepMind, в интервью для MIT Technology Review.

SynthID был протестирован на продуктах Google Gemini, и миллионы пользователей не смогли различить водяные знаки и контент без них. Однако, исследователи признают, что у инструмента есть ограничения, когда текст редактируется или переводится, но они продолжают оставаться оптимистичными и верят, что этот инструмент может помочь бороться с дезинформацией и улучшить безопасность искусственного интеллекта.

За последние несколько месяцев многие технологические компании объявляли о стратегиях маркировки контента с помощью искусственного интеллекта. Meta объявила в феврале о системе идентификации контента AI на Instagram, Facebook и Threads, Google требовал от пользователей маркировать контент AI в марте, и Tiktok добавил метки к контенту, созданному с помощью AI в мае.