Мнение: Является ли ChatGPT вашим другом? Возможно, подошло время установить границы

Недавно OpenAI и MIT опубликовали статью о влиянии ChatGPT на благополучие людей. Хотя большинство пользователей используют эту технологию для практических задач, исследование показывает, что небольшая группа людей развивает глубокие эмоциональные связи с моделью ИИ, что может влиять на их благополучие

Уже некоторое время я с любопытством наблюдаю за отношениями некоторых людей с генеративным искусственным интеллектом. Несколько месяцев назад я прочитала в The New York Times историю 28-летней замужней женщины, которая влюбилась в ChatGPT, и как то, что начиналось как «веселый эксперимент», превратилось в сложные и неожиданные отношения.

Я наблюдаю за своими друзьями, особенно теми, кто раньше отвергал технологии или не проявлял к ним интереса, и теперь они не могут принять важное решение без консультации со своим AI-оракулом. Мне также было удивительно наблюдать эмпатичные ответы, которые дают AI-модели на эмоционально или психологически заряженные вопросы.

И, конечно, я смеялась над шутками, мемами и видео в TikTok, где люди показывают в своих постах на социальных сетях, как они стали зависимы от чат-бота, некоторые даже называют его своим «лучшим другом» или «терапевтом» — и даже серьезно рекомендуют другим делать то же самое.

Но если на мгновение отложить веселые моменты и шутки, мы можем осознать, что мы сталкиваемся с тревожным явлением на глобальном уровне.

В этом месяце, впервые за короткую историю искусственного интеллекта, OpenAI и MIT Media Lab опубликовали исследование, предоставляющее информацию о текущем воздействии ChatGPT на эмоциональное благополучие людей, а также предложения о возможных рисках, с которыми мы можем столкнуться как общество: одиночество, эмоциональная зависимость и уменьшение социального взаимодействия с реальными людьми.

Отношения, которые развиваются

Первое знакомство с новыми технологиями генеративного искусственного интеллекта часто начинается с нескольких застенчивых вопросов, возможно, технического характера о практических задачах, таких как составление электронного письма или запросы на объяснение сложных тем, или просто для мозгового штурма.

Однако, когда пользователь начинает проверять способности чат-бота, он обнаруживает, что они могут быть гораздо более обширными и сложными, чем ожидалось.

Несмотря на то, что некоторые AI продукты, такие как Friend — носимое AI устройство — были разработаны и очень неуклюже продвигаются как спутники жизни пользователя, ChatGPT был рекламирован как инструмент для повышения продуктивности. Тем не менее, некоторые люди используют чат-бота для личных и эмоциональных вопросов и устанавливают с ним сильные связи.

Даже если это всего лишь «небольшая группа», как уточнили в OpenAI, они могут представлять миллионы людей по всему миру, особенно учитывая, что теперь более 400 миллионов человек еженедельно используют ChatGPT. Эти пользователи быстро замечают, что чат-бот OpenAI имитирует их язык, тон и стиль, и даже может быть обучен взаимодействовать определенным образом или использовать ласковые имена, как та женщина, которая влюбилась в него, и даже «звучать» более человечно.

«Их стиль общения, использование языка от первого лица и способность имитировать взаимодействия, похожие на человеческие, заставляют пользователей иногда олицетворять и антропоморфизировать эти системы«, — говорится в документе, опубликованном OpenAI.

Но эта близость несет в себе риски, как отметили исследователи: «Хотя эмоционально привлекательный чат-бот может предоставлять поддержку и компанию, существует риск, что он может манипулировать социально-аффективными потребностями пользователей таким образом, что подрывает благополучие в долгосрочной перспективе.»

Методология исследования

Недавно опубликованное исследование сосредоточено на благополучии людей после регулярного использования ChatGPT. Чтобы понять эмоциональное и социальное влияние чат-бота, исследователи провели два основных исследования, применяя различные стратегии.

OpenAI обработал и проанализировал более 40 миллионов взаимодействий, уважая конфиденциальность пользователей, с использованием классификаторов, и провел опрос среди более 4,000 из них, чтобы узнать, как они себя чувствовали после этих взаимодействий.

Лаборатория MIT Media Lab провела испытание с участием почти 1,000 человек в течение месяца, сосредоточив внимание на психосоциальных последствиях использования ChatGPT не менее 5 минут в день. Они также представили и обработали анкеты в конце эксперимента.

Как и ожидалось, исследование показало, что пользователи, которые проводят больше времени с технологией, испытывают больше одиночества и проявляют больше признаков изоляции.

Сложные последствия и множественные последствия

Исследование MIT Media Lab и OpenAI также представило несколько размышлений о том, насколько сложными и уникальными могут быть отношения между человеком и чат-ботом.

В исследовании авторы предоставляют нам возможность увидеть разнообразие опыта и способы, которыми каждый пользователь взаимодействует с ChatGPT — и как результат может варьироваться в зависимости от различных факторов, таких как использование продвинутых голосовых функций, режим только текста, тип голоса, частота использования, темы разговоров, используемый язык и количество времени, проведенного в приложении.

«Мы рекомендуем не обобщать результаты, так как это может скрыть тонкие нюансы, которые выделяют неоднородные, сложные взаимодействия между людьми и системами искусственного интеллекта», — предупреждает OpenAI в своем официальном объявлении.

Все различные подходы, которые выбирает каждый пользователь, приводят к разным результатам и погружают нас в серые зоны, которые сложно изучить.

Это Эффект Бабочки AI!

Возникает Еще Больше Вопросов

Статья, опубликованная OpenAI, также отмечает, что активные пользователи говорили, что они были бы «расстроены», если бы голос или личность их чат-бота изменились.

Это напомнило мне о видео, которое я недавно видела в социальных сетях, где парень говорил, что предпочитает женский голос и что он ежедневно общается с генеративным ИИ. Может ли ChatGPT помочь мужчинам открыться эмоционально? Что произойдет, если однажды ChatGPT заговорит с ним мужским голосом? Почувствует ли он себя преданным? Прекратит ли он использовать ChatGPT? Развивал ли он романтическую связь, или просто создавал пространство доверия? Конечно, трудно не связать эти сценарии с фильмом Спайка Джонза «Она».

Каждый аккаунт ChatGPT, вместе со всей его историей переписки — каждый день становится более интимным и приватным, чем любой профиль в WhatsApp или личные сообщения в социальных сетях, представляет собой уникальные отношения с бесчисленным количеством последствий и результатов.

Ожидаемый результат

Все исследования анализировали различные аспекты, но пришли к похожему выводу, кратко описанным в MIT Technology Review: “Участники, которые доверяли и «связывались» с ChatGPT больше других, оказались более одинокими и больше полагались на него.”

Хотя исследование не было сосредоточено на решениях или более глубоких объяснениях того, почему это происходит или как это может развиваться, вероятно, что все больше пользователей присоединятся к OpenAI и другим AI платформам, особенно теперь, когда инструмент для создания AI изображений стал вирусным.

Хотя выводы исследования MIT и OpenAI не особенно удивительны, исследование предоставляет научную базу с доказательствами, измерениями, образцами и более «ощутимыми» показателями, которые могут проложить путь для дальнейших исследований и помочь решить проблемы, связанные с использованием искусственного интеллекта сегодня.

Мы также получили официальное предупреждение от самих разработчиков о связях, которые мы устанавливаем с ChatGPT, и приглашение установить границы и подумать о наших взаимодействиях и текущих отношениях — или, может быть, ситуативных связях? — с чат-ботами.