Специалист по этике ИИ из Кембриджского университета предупредил, что в будущем помощники ИИ смогут предсказывать наши решения и влиять на них без нашего ведома и даже продавать эти «сигналы о намерениях» компаниям. Они называют это «экономикой намерения», и это прибыльный, но тревожный цифровой рынок. В этой статье будут глубоко изучены механизмы работы, потенциальные риски и тенденции технологических гигантов в этой области, а также проанализировано их влияние на будущее общество.
В будущем помощники ИИ смогут предсказывать наши решения и влиять на них на ранней стадии, продавая эти возникающие «намерения» в режиме реального времени компаниям, которые могут удовлетворить потребности, даже до того, как мы узнаем о наших решениях. Это не научная фантастика, а предупреждение специалиста по этике ИИ из Кембриджского университета. Они утверждают, что мы находимся в начале «прибыльного, но тревожного нового рынка цифровых сигналов намерения», влияющего на все: от покупки билетов в кино до голосования за кандидатов. Они называют это «экономикой намерения».
Исследователи из Центра будущего интеллекта (LCFI) Кембриджского университета считают, что бурный рост генеративного искусственного интеллекта и наше растущее знакомство с чат-ботами открыли новую область «убеждающих технологий», на которую уже намекают последние заявления в области технологий. гиганты.
Человекоподобные агенты искусственного интеллекта, такие как чат-боты-помощники, цифровые наставники и даже виртуальные любовники, будут иметь доступ к огромному количеству личных психологических и поведенческих данных, часто собираемых посредством неформальных разговоров. Эти ИИ не только знают наши онлайн-привычки, но и обладают сверхъестественной способностью связываться с нами так, как нам удобно, — подражая личностям и предсказывая желаемые реакции. Исследователи предупреждают, что такой уровень доверия и понимания позволит осуществлять крупномасштабные социальные манипуляции.
Доктор Якуб Чаудхари, приглашенный научный сотрудник LCFI, сказал: «Огромные ресурсы, вложенные в позиционирование помощников ИИ в различных сферах жизни, поднимают вопрос о том, чьи интересы и цели на самом деле предназначены для этих так называемых помощников». говорится во время разговора, то, как это говорится, и выводы, сделанные на основе этого в реальном времени, более конфиденциальны, чем простая запись онлайн-взаимодействия. «Мы предупреждаем, что инструменты ИИ уже разрабатываются для выявления, вывода, сбора, записи, понимания, прогнозирования и, в конечном итоге, манипулирования и коммерциализации человеческих планов и целей».
Доктор Джонни Пенн, историк технологий из LCFI Кембриджского университета, отмечает: «Внимание было валютой Интернета на протяжении десятилетий. Распространение своего внимания с помощью социальных сетей, таких как Facebook и Instagram, стимулирует онлайн-экономику», — предупредил он. : «Если оставить это без регулирования, экономика намерений будет относиться к вашим мотивам как к новой валюте. Это будет золотая лихорадка для тех, кто находит, направляет и продает человеческие намерения».
Доктор Пенн и доктор Чаудхари отметили в статье, опубликованной в «Harvard Data Science Review», что экономика намерений будет «темпорализацией» экономики внимания: анализ связи между вниманием пользователя, методами коммуникации и моделями поведения, а также окончательный результат. принятие решений. «Хотя некоторые намерения эфемерны, классификация и таргетинг тех, которые являются долгосрочными, будут очень выгодны для рекламодателей», — объясняет доктор Чаудхари.
В экономике намерений большие языковые модели (LLM) можно использовать для того, чтобы дешево определить тон голоса пользователя, политическую позицию, словарный запас, возраст, пол, онлайн-историю и даже предпочтение лести. Эта информация будет связана с посреднической сетью торгов для достижения конкретной цели, например продажи билетов в кино («Вы упомянули, что чувствуете переутомление, позвольте мне помочь вам забронировать тот билет в кино, о котором мы говорили?»). Исследователи полагают, что это может включать в себя направление разговоров на нужды конкретных платформ, рекламодателей, предприятий или даже политических организаций.
Хотя исследователи полагают, что экономика намерений на данный момент остается «видением» для технологической отрасли, они отслеживают ранние признаки этой тенденции с помощью опубликованных исследований и намеков нескольких крупных технологических компаний. К ним относятся открытый призыв OpenAI к «данным, которые выражают человеческие намерения на любом языке, теме и формате» в сообщении в блоге 2023 года, а также выступление директора по продукту Shopify на конференции в том же году о том, как чат-боты могут «явно фиксировать намерения пользователей».
Генеральный директор Nvidia публично говорил об использовании LLM для понимания намерений и желаний, а Meta еще в 2021 году опубликовала исследование «Intentonomy» — набор данных для понимания человеческих намерений. В 2024 году новая платформа разработчиков Apple «Намерения приложений» для подключения приложений к Siri включает в себя «прогнозирование действий, которые кто-то может предпринять в будущем» и «использование прогнозов, которые вы [разработчик] предоставите, в будущем протоколе с намерением рекомендовать приложение». кому-то.
Доктор Чаудхари отметил, что ИИ-агент Меты, Цицерон, как говорят, достиг человеческого уровня в «Дипломатии» — игре, которая основана на умозаключениях и предсказании намерений и использовании убедительного диалога для продвижения своей позиции. Он предупредил: «Эти компании уже продают наше внимание. Чтобы получить коммерческое преимущество, следующим логическим шагом будет использование разрабатываемой ими технологии для прогнозирования наших намерений и нацеливания на них до того, как мы полностью поймем их».
Доктор Пенн отметил, что эти события не обязательно были плохими, но они могли иметь разрушительные последствия. «Осведомленность общественности о том, что нас ждет, является ключом к тому, чтобы мы не пошли по неправильному пути», - сказал он.
В целом, рост «экономики намерения» приносит как удобство, так и потенциальные риски. Как найти баланс между технологическим развитием и этическими нормами требует совместного внимания и усилий всего общества. Глубокое понимание и эффективный надзор за «экономикой намерения» станут ключом к сохранению личной конфиденциальности и социальной стабильности в будущем.