Дезинформация об Искусственном Интеллекте Может Повлечь за Собой Массовые Снятия Средств из Банков

Новое британское исследование предупреждает, что дезинформация, созданная с помощью искусственного интеллекта и распространяемая в социальных сетях, увеличивает риск банковских паник. Финансовым учреждениям рекомендуется усилить свои усилия по мониторингу, как впервые сообщило Reuters.

Исследование, опубликованное британским проектом Say No to Disinfo и коммуникационной компанией Fenimore Harper, подчеркивает, как искусственный интеллект делает дезинформацию дешевле, быстрее и более эффективной. Широкий спектр актеров — включая тех, кто движим финансовыми, идеологическими или политическими мотивами — может использовать эту уязвимость.

Простота онлайн-банкинга и быстрые денежные переводы только увеличивают уязвимость банков перед такими рисками.

Чтобы проанализировать потенциальное воздействие, исследователи создали искусственно созданную кампанию фейковых новостей, направленную на финансовую стабильность банков. Были разработаны ложные заголовки, способные использовать существующие страхи, с помощью двойников веб-сайтов и контента в социальных сетях, сгенерированного с помощью ИИ.

Ученые моделировали крупномасштабное усиление, генерируя 1000 твитов в минуту с минимальными затратами. Опрос среди 500 британских клиентов показал, что после контакта с дезинформацией 33,6% были крайне вероятны, а 27,2% — весьма вероятны для перемещения своих денег, при этом 60% были склонны делиться контентом.

Исходя из средних балансов на банковских счетах в Великобритании, одна кампания по распространению дезинформации может привести к перемещению £10 миллионов, при этом стоимость перевода £150 миллионов может составлять всего от $90 до $150.

Несмотря на скорость и простоту таких атак, исследователи утверждают, что финансовые учреждения остаются неподготовленными. Банкам не хватает специалистов по дезинформации, превентивного мониторинга и планов реагирования на кризисные ситуации. Текущие меры безопасности сосредоточены на киберугрозах, при этом игнорируя операции влияния, усиленные ИИ.

Дезинформация, усиленная ИИ, может дестабилизировать финансовый сектор, подрывая доверие и вызывая массовые выводы средств. Без превентивных мер, утверждают исследователи, эти кампании могут вызвать широкомасштабные экономические потери.

Reuters отмечает, что опасения по поводу дезинформации, распространяемой с помощью ИИ, возникли после краха Silicon Valley Bank в 2023 году, когда вкладчики за один день сняли 42 миллиарда долларов.

Регуляторы, включая Финансовый стабильностный совет G20, с тех пор предупреждали, что генеративный ИИ может усугубить финансовую нестабильность, предупреждая в ноябре, что он «может позволить злонамеренным акторам генерировать и распространять дезинформацию, вызывающую острые кризисы», такие как внезапные падения на рынке и массовое снятие депозитов из банков, как сообщает Reuters.

В то время как некоторые банки отказались комментировать ситуацию для Reuters, UK Finance заявила, что финансовые учреждения активно управляют рисками, связанными с ИИ.

Публикация исследования совпала с AI Summit во Франции, где лидеры переключают фокус с рисков ИИ на его продвижение.