Google будет помечать изображения, созданные с помощью ИИ, в поиске

Google объявил сегодня о своих планах внести изменения в Google Search, чтобы сделать более понятным, какие изображения в результатах поиска были созданы или отредактированы с помощью инструментов AI.

Технологический гигант использует технологию под названием «Provenance» для идентификации и маркировки таких изображений, стремясь повысить прозрачность для пользователей и бороться с распространением дезинформации.

Google объяснил, что технология Provenance позволяет определить, было ли фото сделано с помощью камеры, изменено с помощью программного обеспечения или полностью создано с помощью генеративного ИИ.

Эта информация будет доступна пользователям через функцию «Об этом изображении», предоставляя им больше контекста и помогая принимать обоснованные решения о потребляемом контенте.

Чтобы усилить свои усилия, Google вступил в Коалицию по происхождению и подлинности контента (C2PA) в качестве члена руководящего комитета в начале этого года. C2PA работает над разработкой стандартов для отслеживания истории цифрового контента, включая изображения и видео.

Однако TechCrunch (TC) отмечает, что только изображения с «метаданными C2PA» будут помечены как сгенерированные AI в поиске Google.

Несмотря на поддержку со стороны таких компаний, как Google, Amazon, Microsoft, OpenAI и Adobe, стандарт C2PA не получил широкого распространения, как сообщает TC.

Как отмечает The Verge, поддерживают спецификации C2PA лишь ограниченное количество инструментов генеративного AI и камер, таких как Leica и Sony.

Кроме того, TC отмечает, что метаданные C2PA, как и любые другие метаданные, могут быть удалены, повреждены или стать нечитаемыми. Многие популярные инструменты AI, такие как Flux, который используется в чатботе Grok от xAI, не включают метаданные C2PA, в частности, потому что их разработчики не приняли этот стандарт.

Хотя эта инициатива показывает перспективы в борьбе с вредоносным контентом в виде глубоких подделок, ее успех лежит в широком принятии системы водяных знаков C2PA производителями камер и разработчиками генеративного AI.

Однако, даже при наличии C2PA, злонамеренные лица все еще могут удалить или изменить метаданные изображения, потенциально подрывая способность Google точно определять контент, сгенерированный с помощью ИИ.