Призыв к Apple удалить функцию ИИ после скандала с ложными заголовками

Основной сторожевой журналистики призвал Apple отозвать свою функцию генеративного ИИ после того, как инструмент неверно приписал заголовок о высокопрофильном убийстве BBC News.

BBC сообщила в четверг о возникшем споре после того, как новая функция Apple, Apple Intelligence, некорректно сформировала заголовок новости. В нем предполагалось, что Луиджи Мангионе, подозреваемый в убийстве генерального директора страховой компании в сфере здравоохранения Брайана Томпсона, застрелил себя. Такой статьи в BBC не публиковалось.

Репортеры без границ (RSF), международная организация, защищающая свободу прессы, выразила критику в адрес Apple, заявив, что инцидент подчеркивает риски, которые незрелые инструменты ИИ представляют для достоверности медиа и доверия общественности.

Венсан Бертье, руководитель отдела технологий и журналистики RSF, осудил это просчет, назвав его «ударом по репутации издания» и угрозой общественному доступу к надежной информации. RSF потребовала, чтобы Apple немедленно удалила эту функцию.

«Европейский акт об ИИ — несмотря на то, что это самое продвинутое законодательство в мире в этой области — не классифицировал системы, генерирующие информацию на основе ИИ, как системы повышенного риска, оставив критический правовой вакуум. Этот пробел должен быть немедленно заполнен», — сказала Бертье.

BBC подтвердило, что подало официальную жалобу на технологического гиганта и запросило решение, но по-прежнему неясно, ответила ли компания Apple.

Ошибочное резюме AI не ограничивалось новостями BBC. 21 ноября этот инструмент неверно суммировал статью из «New York Times», ложно предполагая, что премьер-министра Израиля Беньямина Нетаньяху арестовали, как указано в статье BBC.

Как позднее подчеркнул журналист Кен Швенке, это уведомление на самом деле относилось к ордеру Международного уголовного суда в отношении Нетаньяху.

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

Apple Intelligence ставит своей целью сократить количество уведомлений за счет их группировки и суммирования. Этот инструмент доступен на iPhone с iOS 18.1 и более новых моделях, а также на некоторых iPad и Mac. Однако инструмент столкнулся с критикой за искажение информации от уважаемых новостных ресурсов.

Представитель BBC подчеркнул, что хотя некоторые сгруппированные уведомления точно суммируют истории о глобальных событиях, дезинформация, связанная с Mangione, показала потенциал технологии нанести ущерб как СМИ, так и общественному пониманию.

RSF предупредила, что «Этот случай показывает, что генеративные AI-сервисы все еще слишком несовершенны, чтобы предоставлять надежную информацию для общественности, и их не следует допускать на рынок для такого рода использования.»

Ars Technica рассмотрели сводки уведомлений от Apple, отметив несколько часто возникающих проблем. Во-первых, хотя некоторые сводки фактически верны, они звучат роботизированно и неуклюже, особенно в чувствительных вопросах, таких как отношения или психическое здоровье. Другие неправильно понимают сарказм, сленг или идиоматические выражения, часто трактуя их слишком буквально.

Потеря контекста — еще одна серьезная проблема, особенно когда в обзорах пропускаются предыдущие сообщения в теме или не учитывается мультимедийное содержание. В групповых чатах с несколькими темами обзоры могут становиться перегруженными, смешивая темы и приводя к неточностям.

Наконец, некоторые обзоры просто ошибочны, часто из-за попытки сжать слишком много информации в слишком мало слов, что приводит к искажению информации. В целом, эти проблемы, влияющие на полезность и точность функции, часто встречаются в повседневном использовании.

Манжионе, теперь обвиняемый в убийстве первой степени, стал центром внимания в дискуссии о рисках, связанных с ИИ в журналистике. Доверие общественности к достоверным новостям остается под угрозой, поскольку Apple оказывается под все возрастающим давлением для решения этой проблемы.