Эксперт из Стэнфорда обвинен в использовании ИИ для фабрикации заявления в суде

Профессор Стэнфорда Джефф Хэнкок обвиняется в использовании искусственного интеллекта для подделки цитат в заявлении в суде в защиту закона Миннесоты о дипфейках.

Профессор коммуникаций Стэнфордского университета и эксперт по дезинформации Джефф Хэнкок подвергается критике после обвинений в использовании искусственного интеллекта (AI) для фабрикации частей судебного заявления, как сообщает The Stanford Daily.

Хэнкок, основатель и директор Лаборатории социальных медиа Стэнфорда, подал 12-страничное заявление в ноябре в суд штата Миннесота в защиту закона 2023 года, уголовно наказывающего использование дипфейков для влияния на выборы, как сообщает The Daily.

Его показания поддержали генерального прокурора Миннесоты Кейта Эллисона, подчеркивая опасности, которые несет сгенерированная искусственным интеллектом медиа в распространении дезинформации. Хэнкок утверждал, что дипфейки подрывают традиционную проверку фактов и увеличивают убедительность ложной информации, говорится в The Daily.

Декларация, включавшая в себя 15 ссылок, подверглась критике после того, как две цитируемые академические статьи не могли быть найдены. Эти работы остались непроизводимыми по их заявленным цифровым идентификаторам объектов или журналам, в которых они были упомянуты, согласно The Daily.

Адвокат Франк Берднарц, представляющий истцов, республиканского государственного представителя Мэри Франсон и консервативного сатирика социальных медиа Кристофера Колса, вызвал вопрос о достоверности показаний Хэнкока, как отмечал The Daily.

Берднарц утверждал, что сомнительные цитаты напоминают «галлюцинации», созданные искусственным интеллектом, и призывал исключить документ из судебного рассмотрения.

Он заявил: «Существование вымышленной цитаты, на которую Хэнкок (или его помощники) даже не удосужились нажать, вызывает сомнение в качестве и достоверности всего заявления», как сообщает The Daily.

Хэнкок, который получал $600 в час за свое свидетельство, дал показания под страхом наказания за ложь под присягой. Профессор пока не прокомментировал обвинения, сообщила газета The Daily.

Хэнкок, который читает курсы по коммуникации и технологиям, стал героем документального фильма Netflix 2024 года, где вместе с Биллом Гейтсом обсуждал будущее искусственного интеллекта. Ожидается, что весной 2025 года он будет преподавать курс «Правда, доверие и технологии», где будет изучать обман в цифровых медиа, отметила газета The Daily.

Kohls, известный в интернете как Mr. Reagan, ранее выступал против законов Калифорнии, направленных на борьбу с обманчивыми политическими СМИ, включая один, касающийся поддельного избирательного ролика о вице-президенте Камале Харрис, как отмечено в The Daily.

Если эти обвинения подтвердятся, они бросают тень на авторитетность академической экспертизы в юридических вопросах высокой степени важности, где ценится прежде всего честность.

Если эти обвинения подтвердятся, то они выставят Хэнкока в не самом лучшем свете, обнажив глубокое противоречие: эксперт по дезинформации, возможно, фабрикует доказательства в судебном заявлении. Его роль ученого, который предупреждает о опасности обмана, сгенерированного ИИ, резко контрастирует с обвинением в том, что он использовал те самые инструменты, которые критикует, чтобы подкрепить свое свидетельство.