OpenAI столкнулась с жалобой на нарушение конфиденциальности после того, как ChatGPT ложно обвинил пользователя в убийстве

Европейская некоммерческая организация noyb поддерживает пользователя из Норвегии, использующего ChatGPT, в подаче официальной жалобы против американской компании, после того как чат-бот ложно обвинил его в убийстве своих двух детей.

Европейская некоммерческая организация noyb поддерживает пользователя из Норвегии, использующего ChatGPT, в подаче официальной жалобы против американской компании после того, как чат-бот неверно обвинил его в убийстве своих двух детей.

noyb, также известный как Европейский центр по цифровым правам, поделился официальным документом, в котором подробно описывается случай, предупреждается о риске галлюцинаций от чат-ботов в личной жизни людей и подчеркивается важность соблюдения Общего регламента по защите данных (GDPR).

Согласно информации и жалобе, предоставленной noyb, житель Норвегии Арве Хьялмар Холмен спросил у ChatGPT, кто он такой, и был шокирован прочитать ложную и ужасающую историю об убийстве, в которой утверждалось, что он убил своих двух сыновей, попытался убить третьего ребенка и был приговорен к 21 году тюрьмы.

«У него семья и три сына. Это тот, кого люди называют ‘обычным человеком’, что означает, что он не известен или узнаваем широкой публикой», — говорится в жалобе Noyb. «Он никогда не был обвинен и не был осужден за какое-либо преступление и является добросовестным гражданином.»

noyb объясняет, что помимо опасно ложной информации, еще одним очень тревожным аспектом ответа является то, что ChatGPT использовал реальную личную информацию, чтобы создать эту историю. Чат-бот включил в нее его настоящий родной город, количество его детей, их пол, а даже и схожие различия в возрасте.

«Некоторые думают, что ‘нет дыма без огня’. Тот факт, что кто-то мог прочитать этот вывод и поверить, что он является правдой, — это то, что меня больше всего пугает», — сказала Арве Хьялмар Хольмен.

noyb подчеркивает, что это не единичный случай, и ранее они уже подавали жалобу на OpenAI за некорректную информацию — дату рождения — общественного деятеля, которую так и не исправили. OpenAI включили отказ от ответственности после того, как многие пожаловались на неточную информацию в прошлом году. Но многие организации, включая noyb, считают, что этого недостаточно.

«GDPR четко гласит. Личные данные должны быть точными. И если они не точны, у пользователей есть право требовать их исправления, чтобы они отражали истину», — сказал Йоаким Сёдерберг, юрист по защите данных в noyb. «Показывать пользователям ChatGPT крошечное уведомление о том, что чат-бот может допустить ошибки, явно недостаточно».

🚨 Сегодня мы подали вторую жалобу на OpenAI из-за проблем с галлюцинациями ChatGPT

👉 Когда норвежский пользователь спросил у ChatGPT, есть ли у него какая-нибудь информация о нем, чатбот выдумал историю о том, что он убил своих детей.

Узнайте больше: https://t.co/FBYptNVfVz pic.twitter.com/kpPtY1ps25

— noyb (@NOYBeu) 20 марта 2025

noyb также подала жалобу на X в прошлом году за использование персональных данных более 60 миллионов европейцев для обучения своего AI-чатбота Grok.