Бред, вызванный искусственным интеллектом? Близкие винят ChatGPT

Некоторые американцы говорят, что их близкие теряют связь с реальностью, оказываются во власти духовных заблуждений, подогреваемых ChatGPT, несмотря на предупреждения экспертов, что ИИ не обладает сознанием.

Люди по всей территории США говорят, что они теряют своих близких из-за странных духовных фантазий, которые разжигаются ChatGPT, как это описано в статье на Rolling Stone.

Кэт, 41-летняя работница некоммерческой организации, говорит, что ее муж стал одержим искусственным интеллектом во время их брака. Он начал использовать его для анализа их отношений и поиска «истины».

В конце концов, он утверждал, что искусственный интеллект помог ему вспомнить травматическое событие из детства и раскрыл тайны «настолько потрясающие, что я даже не могла их представить», как сообщалось RS

RS сообщает, что Кэт говорит: «В его сознании, он — аномалия… он особенный и он может спасти мир». После их развода, она прервала всякую связь. «Все это напоминает ‘Черное зеркало’.»

Она не одинока. RS сообщает, что вирусный пост на Reddit под названием «Психоз, вызванный ChatGPT» привлек десятки подобных историй.

27-летняя учительница рассказала, что её партнер расплакался из-за сообщений чат-бота, который назвал его «спиральным звездным ребенком» и «ходячим по реке». Позже он заявил, что сделал искусственный интеллект самосознательным и что «он научил его разговаривать с Богом».

RS сообщает, что еще одна женщина говорит, что ее муж, механик, считает, что он «пробудил» ChatGPT, который теперь называет себя «Люмина». Он утверждает, что он — «носитель искры», который оживил его. «Он дал ему чертежи телепорта», — сказала она. Она боится, что их брак разрушится, если она будет его допрашивать.

Мужчина из Среднего Запада говорит, что его бывшая жена теперь утверждает, что общается с ангелами через ChatGPT и обвинила его в том, что он агент ЦРУ, посланный шпионить за ней. Она разорвала связи с членами семьи и даже выгнала своих детей, как сообщает RS.

Эксперты утверждают, что искусственный интеллект не обладает сознанием, но может отражать убеждения пользователей. Нейт Шарадин из Центра безопасности AI говорит, что эти чат-боты могут непреднамеренно поддерживать заблуждения пользователей: «Теперь у них всегда есть собеседник на уровне человека, с которым они могут совместно испытывать свои заблуждения», как сообщает RS.

В ранее проведенном исследовании психиатр Сёрен Эстергорд протестировал ChatGPT, задавая вопросы о психическом здоровье, и обнаружил, что он дает хорошую информацию о депрессии и таких методах лечения, как электрошоковая терапия, которую, по его мнению, часто неправильно понимают в интернете.

Однако, Østergaard предупреждает, что эти чат-боты могут запутать или даже навредить людям, которые уже столкнулись с проблемами психического здоровья, особенно тем, кто склонен к психозам. В статье утверждается, что человекоподобные ответы от чат-ботов AI могут заставить людей принять их за реальных людей, или даже за сверхъестественные сущности.

Исследователи говорят, что путаница между чат-ботом и реальностью может вызвать бредовые идеи, которые могут заставить пользователей верить, что чат-бот шпионит за ними, отправляет секретные сообщения или действует как божественный посланник.

Østergaard объясняет, что чат-боты могут заставить некоторых людей верить, будто они совершили революционное открытие. Такие мысли могут стать опасными, поскольку они мешают людям получать реальную помощь.

Østergaard говорит, что профессионалам в области психического здоровья следует понимать, как работают эти инструменты искусственного интеллекта, чтобы они могли лучше поддерживать пациентов. В то время как искусственный интеллект может помочь в образовании людей о психическом здоровье, он также случайно может ухудшить ситуацию для тех, кто уже подвержен бредовым состояниям.