Google запускает AI-инструменты для защиты пользователей от мошенников

Google объявил о новых инструментах AI для борьбы со мошенничеством и защиты пользователей в четверг. Технологический гигант опубликовал отчет, подробно описывающий улучшения своих инструментов безопасности и внедрение новых стратегий, которые используют большие языковые модели (LLMs) и генеративный AI.

Согласно объявлению, Google использует передовые методы для повышения безопасности и обнаружения мошенников на своих основных платформах и продуктах.

«Сегодня мы публикуем новый отчет о том, как мы боремся с мошенничеством в Поиске, и рассказываем о новых способах использования искусственного интеллекта для обеспечения вашей безопасности в Поиске, Chrome и Android», — написала Джасика Бава, менеджер группы продуктов, которая занимается безопасностью Chrome, и Фирозе Паракх, старший директор по инженерии для Google Search.

Google внедрил новые инструменты, работающие на основе искусственного интеллекта, и смог улучшить выявление мошеннических страниц в Поиске в 20 раз, а также обнаруживать поддельные номера телефонов. Одним из примеров, которые компания приводит, является мошенничество, когда злоумышленники выдают себя за службу поддержки авиакомпаний, чтобы обмануть пользователей Google Search и заставить их звонить им. «Мы уже снизили количество таких мошенничеств более чем на 80% в Поиск, значительно сократив риск того, что вы позвоните на мошеннический номер телефона», — говорится в объявлении.

Несколько недель назад, Google подал иск против мошенников за создание более 10 000 фальшивых предприятий на Google Maps. Компания также предупредила о стратегиях злоумышленников, таких как добавление фальшивых номеров бизнеса, и приняла меры для их борьбы.

Для Chrome Google использует Gemini Nano, чтобы добавить дополнительные уровни защиты от онлайн-мошенничества на десктопе. Инструмент на базе искусственного интеллекта предупреждает пользователей о рискованных сайтах, позволяя Google предлагать лучшую защиту от возможных мошенничеств, включая новые угрозы. Компания планирует расширить функции безопасности Gemini Nano на Android.

Google также ввела новые предупреждения, работающие на основе искусственного интеллекта, для выявления мошеннических уведомлений. «Когда модель машинного обучения Chrome на устройстве помечает уведомление, вы получите предупреждение с возможностью отписаться или просмотреть заблокированный контент», — говорится в объявлении. «И если вы решите, что предупреждение было показано некорректно, вы сможете разрешить будущие уведомления с этого сайта».

Пользователи Android также могут воспользоваться новой функцией AI, Обнаружение мошенничества, в Google Messages и Phone, которая помогает защититься от мошеннических звонков и текстовых сообщений.