Искусственный интеллект может прогнозировать и влиять на решения, продавая ваши намерения компаниям

Искусственный интеллект может вскоре привести к созданию рынка, где компании будут покупать и продавать ваши намерения, еще до того, как вы примете решение, предупреждают исследователи из Университета Кембриджа.

Возникающая «Экономика намерений» позволит AI-ассистентам предсказывать и влиять на ваши выборы, от покупки билетов на кино до голосования на выборах, зачастую до того, как вы сами осознаете свои предпочтения.

Этические эксперты в области искусственного интеллекта из Центра Левергульма по изучению будущего разума (LCFI) в Кембридже предполагают, что расширяющееся использование генеративного искусственного интеллекта и чат-ботов может проложить путь для нового типа убеждающих технологий.

Эти агенты искусственного интеллекта, которые варьируются от помощников-чат-ботов до цифровых репетиторов, будут иметь доступ к огромным объемам личных психологических и поведенческих данных, собранных через повседневные разговоры, включая неформальные диалоги.

Эти данные, объединенные с передовыми алгоритмами, позволят ИИ предугадывать желания пользователей и влиять на их решения в большом масштабе, утверждают исследователи.

«Огромные ресурсы тратятся на то, чтобы поместить AI-ассистентов в каждую область жизни, что должно вызвать вопрос о том, в интересах и для каких целей эти так называемые помощники разработаны», — сказал доктор Якуб Чаудхари, визитирующий ученый в LCFI, как сообщается на Eurekalert.

Инструменты ИИ не только собирают данные о привычках пользователей в сети, но и интерпретируют тонкие нюансы, такие как манера общения людей и выводы, которые можно сделать из реального взаимодействия в реальном времени. По мнению исследователей, эти инструменты вскоре смогут предсказывать и влиять на наши решения, манипулируя ими в интересах корпораций, политики и коммерции.

Доктор Джонни Пенн, историк технологий в LCFI, объясняет, что внимание давно является валютой интернета, с платформами вроде Facebook и Instagram, получающими прибыль от вовлеченности пользователей. Однако в возникающей экономике намерений, человеческие мотивы станут новой валютой.

«Если не регулировать, экономика намерений будет рассматривать ваши мотивы как новую валюту. Это будет золотая лихорадка для тех, кто нацелен на управление и продажу человеческих намерений», — сказал доктор Пенн, как сообщает Eurekalert.

Исследователи предупреждают, что этот рынок может иметь серьезные последствия, от подрыва свободных и честных выборов до влияния на целостность СМИ и конкуренцию на рынке. Они утверждают, что, хотя экономика намерений все еще только зарождается, ранние признаки ее развития уже видны.

Например, крупные технологические компании, такие как OpenAI, Meta и Apple, начали инвестировать в AI-системы, способные предсказывать намерения людей, согласно Eurekalert. OpenAI, например, запросила данные, выражающие человеческие намерения в различных форматах, в то время как рамка «App Intents» Apple 2024 года разработана для предсказания будущих действий пользователей.

Несмотря на риски, Пенн и Чаудхари подчеркивают, что эти разработки не являются изначально негативными. Однако они акцентируют внимание на важности общественного осведомления и регулирования, чтобы экономика намерений не перешагнула этические границы.

«Мы должны начать обсуждать возможное влияние такого рынка на человеческие стремления, включая свободные и честные выборы, свободную прессу и честную рыночную конкуренцию, прежде чем стать жертвами его непредвиденных последствий», — предостерег Пенн, как сообщает Eurekalert.

В этом быстро меняющемся цифровом ландшафте исследователи призывают общество тщательно изучить последствия использования инструментов искусственного интеллекта, которые не только влияют на то, чего хотят люди, но и на то, что они «хотят хотеть».