По мнению специалистов по этике ИИ из Кембриджского университета, мы находимся на заре «прибыльного, но тревожного нового рынка цифровых сигналов о намерениях» — от покупки билетов в кино до голосования за кандидатов. Они называют это „экономикой намерений“.

Исследователи из кембриджского Центра Леверхулма по изучению будущего интеллекта (LCFI) утверждают, что взрывное развитие генеративного ИИ и наше растущее знакомство с чат-ботами открывают новый рубеж «технологий убеждения», на который намекают недавние корпоративные заявления технологических гигантов.

«Антропоморфные» агенты ИИ, от чатботов-помощников до цифровых репетиторов и подруг, будут иметь доступ к огромному количеству интимных психологических и поведенческих данных, часто получаемых через неформальный разговорный диалог.

Этот ИИ будет сочетать знания о наших привычках в сети с необыкновенной способностью подстраиваться под нас так, как нам удобно — подражая личностям и предугадывая желаемые реакции, — чтобы создать уровень доверия и понимания, позволяющий осуществлять социальные манипуляции в промышленных масштабах, говорят исследователи.

Огромные ресурсы тратятся на то, чтобы внедрить ИИ-помощников во все сферы жизни, что должно вызвать вопрос о том, чьим интересам и целям призваны служить эти так называемые помощники, — говорит приглашенный ученый LCFI доктор Якуб Чаудхари (Yaqub Chaudhary).

То, что люди говорят во время разговора, как они это говорят и какие выводы можно сделать в результате в режиме реального времени, гораздо более интимно, чем просто записи онлайн-взаимодействий.

Мы предупреждаем, что инструменты ИИ уже разрабатываются для того, чтобы выведывать, делать выводы, собирать, записывать, понимать, прогнозировать и в конечном итоге манипулировать человеческими планами и целями, а также использовать их в коммерческих целях.

Доктор Джонни Пенн, историк технологий из Кембриджского института LCFI, сказала:

На протяжении десятилетий внимание было валютой интернета. Обмен вниманием с помощью социальных медиаплатформ, таких как Facebook и Instagram, стимулировал развитие онлайн-экономики.

Если не регулировать эту сферу, то экономика намерений будет рассматривать ваши мотивы как новую валюту. Это будет золотая лихорадка для тех, кто нацеливается на человеческие намерения, управляет ими и продает их.

Мы должны начать рассматривать возможное влияние такого рынка на человеческие устремления, включая свободные и честные выборы, свободную прессу и честную рыночную конкуренцию, прежде чем мы станем жертвами его непредвиденных последствий.

В новой статье Harvard Data Science Review Пенн и Чаудхари пишут, что экономика намерений будет экономикой внимания, «построенной во времени»: профилирование того, как внимание пользователя и его коммуникативный стиль связаны с моделями поведения и выбором, который мы в итоге делаем.

Хотя некоторые намерения мимолетны, классификация и нацеливание на те намерения, которые сохраняются, будут чрезвычайно выгодны для рекламодателей, — говорит Чаудхари.

В экономике намерений можно использовать большие языковые модели (Large Language Models или LLMs), чтобы за небольшие деньги определять направленность речи пользователя, его политику, словарный запас, возраст, пол, историю общения в Интернете и даже предпочтения в лести и заискивании, пишут исследователи.

Этот сбор информации будет связан с сетями посреднических торгов для максимизации вероятности достижения заданной цели, например, продажи похода в кино ( «Вы упомянули, что чувствуете себя переутомленным, не заказать ли вам билет в кино, о котором мы говорили?»).

По мнению Пенна и Чаудхари, это может включать в себя направление разговоров в пользу определенных платформ, рекламодателей, предприятий и даже политических организаций.

Хотя исследователи говорят, что экономика намерений в настоящее время является «стремлением» для технологической индустрии, они отслеживают первые признаки этой тенденции по опубликованным исследованиям и намекам, сделанным несколькими крупными технологическими игроками.

Среди них — открытый призыв к поиску «данных, выражающих намерения человека… на любом языке, по любой теме и в любом формате» в блоге OpenAI в 2023 году, а директор по продуктам Shopify — партнера OpenAI — на конференции в том же году говорил о появлении чат-ботов, „которые будут явно узнавать намерения пользователя“.

Генеральный директор Nvidia публично говорил об использовании LLM для выяснения намерений и желаний, а Meta выпустила исследование «Intentonomy», набор данных для понимания намерений человека, еще в 2021 году.

В 2024 году новый фреймворк разработчиков Apple «App Intents» для подключения приложений к Siri (персональному ассистенту Apple с голосовым управлением) включает протоколы для „предсказания действий, которые кто-то может предпринять в будущем“ и „для предложения намерений приложения кому-то в будущем, используя предсказания, предоставленные вами [разработчиком]“.

ИИ-агенты, такие как CICERO от Meta, как говорят, могут достичь человеческого уровня в игре «Дипломатия», которая зависит от угадывания и предсказания намерений, а также использования убедительного диалога для продвижения своей позиции, — говорит Чаудхари.

Эти компании уже продают наше внимание. Чтобы получить коммерческое преимущество, следующим логичным шагом будет использование технологии, которую они явно разрабатывают, для прогнозирования наших намерений и продажи наших желаний еще до того, как мы полностью осознаем, что они собой представляют.

Пенн отмечает, что эти разработки не обязательно плохи, но потенциально могут быть разрушительными.

Осознание общественностью того, что нас ждет, — это ключ к тому, чтобы мы не пошли по ложному пути, — говорит она.

Ранее мы опубликовали 10 инновационных технологий в сфере розничной торговли в 2025 году.