Коварный алгоритм. Как искусственный интеллект управляет человеком

Гипотеза: алгоритмы подбора рекомендаций помогают покупать товары дешевле
Результат: алгоритмы подбора рекомендаций заставляют нас совершать необдуманные траты

Согласно результатам недавнего опроса Института статистических исследований и экономики знаний НИУ ВШЭ, 60% российских пользователей интернета часто просматривают рекомендации цифровых сервисов. Тот же опрос показывает, что 61% из часто просматривающих рекомендации покупает товары онлайн значительно дешевле, чем они стоят в офлайн-магазинах. Тогда как среди людей, которые подборки от алгоритмов не получают, таких только 26%. Принципы составления рассылок опираются на страх потребителя пропустить что-то интересное и создают иллюзию большого спроса и ограниченного срока акции. Этот страх называется синдром упущенной выгоды от английского FOMO (fear of missing out — страх что-то упустить). Подобные психологические уловки заставляют пользователей не только стремиться походить на идеально красивых и успешных людей из соцсетей, но и гнаться за скидками или товарами, которые якобы почти закончились. Раньше составлением подборок товаров и рассылок вручную занимались маркетологи и другие специалисты, теперь рекламщики получили мощнейший инструмент для автоматического подбора рекомендаций — от сериалов и товаров до друзей в социальных сетях.

По этой же логике формируются и рекламные слоты товаров от маркетплейсов. Алгоритмы ориентируются на историю поиска пользователя и сайты, которые он просматривал. На основе данных создаются подборки товаров, которые «могут вас заинтересовать». Нередко при переходе по ссылке можно обнаружить, что товар уже закончился или цена не соответствует действительности. Но цель уже достигнута — пользователь находится на сайте, и его можно увлечь дальше в лабиринт покупок.

Как именно устроен этот процесс, выяснили ученые из Принстонского университета, проанализировав 10 тысяч сайтов для продажи товаров в интернете. Они выделили несколько разновидностей манипуляций людьми с помощью FOMO: всплывающие объявления о вымышленных покупателях, которые «невероятно сэкономили, купив этот товар на этом сайте», предложение добавить в корзину сопутствующие товары, всплывающие сообщения о завершении акции и ограниченном количестве товара, намеренное усложнения процесса отмены еще не сформированного заказа. Блогеры, продающие инфопродукты, часто прибегают к давлению на аудиторию через чувство стыда: «Если вы не пойдете на мой курс, ничего страшного, не все готовы выделиться из стада посредственностей». Или, например, кнопки отказа от подписки на рассылку могут подписать «Нет, спасибо, я отказываюсь получать выгодные предложения».

Подобные подходы использовались в 11,1% онлайн-продаж, согласно исследованию. Пользоваться рекомендациями алгоритмов вполне может быть выгодно, если делать это осознанно. Чтобы избежать импульсивных трат, лучше остановиться и подумать, действительно ли вам нужна эта покупка, будь то обучающий курс или новый свитер.

Гипотеза: ресурсы и блогеры отбирают новости, соответствующие только их позиции (возможно, проплаченной), а остальное игнорируют
Результат: медиа транслируют инфоповоды, которые уже получили большие охваты в других источниках

Чуть больше десяти лет назад американский интернет-активист Илай Парайзер ввел в обиход понятие «информационный пузырь». Так называют явление, когда алгоритмы рекомендуют пользователю соцсетей блогеров и онлайн-сообщества в соответствии с его интересами и взглядами. Например, противник вакцинации акцентирует внимание на информации, подкрепляющей его позицию, и вскоре алгоритмы начнут предлагать ему группы борцов с прививками и блоги о заговорах врачей, а доказательная медицина перестанет попадать в его поле зрения. Для борьбы с информационными пузырями Парайзер и авторы популярных статей обычно советуют интересоваться новостями от разных авторов или порталов.

Но, согласно недавней статье ученых из Университета Огайо в журнале New Media & Society, такого вдумчивого подхода недостаточно, чтобы избежать искажения картинки. Авторы работы проанализировали 2,2 миллиона новостных постов в Facebook* с 2017 по 2019 год, набравших не менее 100 репостов, чтобы выяснить, как источники информации с высоким и низким уровнем доверия выбирают информационные поводы для постов. К первым исследователи условно отнесли серьезные официальные СМИ, ко вторым — блогеров. Каждая из этих групп источников фокусируется на разных темах, создавая разное впечатление о том, какие именно события сейчас самые важные. К удивлению ученых оказалось, что чаще всего повторяются новости не у изданий со схожими взглядами и ориентирами, а у источников со схожим уровнем достоверности (по мнению авторов исследования). То есть блогеры пишут о том, что популярно и хорошо читается в блогосфере, тогда как СМИ охотно тиражируют новости других официальных изданий. Таким образом, ключевым фактором при выборе темы публикации становится популярность темы на похожих площадках, а идеологическая направленность влияет на выбор инфоповода значительно меньше. Авторы исследования советуют не просто читать новости из разных источников (ведь многие из них постят одно и то же), а обращать внимание на их разнообразие и уровень достоверности — перепроверять информацию.

Гипотеза: вкусы и интересы пользователя формирует его лента в соцсетях
Результат: после изменения ленты новостей человек сохраняет свои взгляды как минимум несколько месяцев

Идея об информационных пузырях подразумевает, что пользователи читают только то, что их интересует, и общаются с теми, кто разделяет их взгляды. На основании этого можно подумать, что люди поменяют свою позицию, если незаметно перенастроить алгоритмы выдачи в ленте новостей и интересных постов в социальных сетях (то есть «лопнуть» имеющийся пузырь или создать другой).

Однако сразу три эксперимента, результаты которых были опубликованы в ведущих научных журналах, доказывают обратное. Статьи с результатами первых двух экспериментов вышли в июльском номере Science, третья появилась на страницах Nature. В каждом из исследований, проходивших с конца сентября по конец декабря 2020 года, участвовали около 23 тысяч человек, которых отобрали по приглашению, появившемуся в американской ленте социальных сетей, принадлежащих компании Meta*.

Все испытания проводились благодаря помощи технических специалистов социальных сетей. Данные пользователей попадали к социологам в анонимизированном виде. В одном эксперименте исследователи скрыли от участников все перепосты. Это сделало ленту намного более аполитичной и очистило ее от некоторых недостоверных источников. В другом эксперименте посты в ленте Instagram* и Facebook* отображались в обратном порядке. Согласно первоначальному алгоритму, на очередность постов в топе ленты влияет, в первую очередь, их популярность (лайки, репосты, комментарии, просмотры) и хронология их появления. Кроме того, алгоритмы отправляют в самый конец выдачи источники, посты которых собирают много жалоб на дезинформацию, так что эта подмена также позволила показать людям больше недостоверного контента. А вот постов с ненавистью и неуважением к каким-либо группам людей, которые часто выходят в топы из-за активных лайков, перепостов и обсуждений, в ленте этих пользователей стало почти вдвое меньше. В третьем эксперименте ленту в Facebook* настроили так, что она на треть состояла из постов с той позицией, с которой испытуемые не согласны. Это помогло пользователям увидеть альтернативные мнения и выйти за пределы своего информационного пузыря.

Ученые также заметили, что участники всех экспериментов стали проводить меньше времени в социальных сетях. Этот итог был ожидаемым для исследователей, потому что измененная лента хуже учитывала предпочтения пользователей, а значит, не так их увлекала и приносила им меньше эмоций. Но ни во время всех трех экспериментов, ни после них исследователям не удалось обнаружить фактор значимого влияния на позицию подопытных: неважно, касалась ли она иммигрантов, ковидных мер или расовых предрассудков. Участники не стали более непримиримыми сторонниками каких-либо взглядов, чем это в среднем наблюдается в соцсетях, не изменился и их уровень доверия к различным информационным ресурсам и политическим институтам.

Управлять мнением людей не так просто. Здоровая доля скептицизма и анализ ситуации с холодной головой помогают не только избежать ненужных покупок из-за FOMO, но и манипуляций вашей точкой зрения (по крайней мере, в краткосрочной перспективе). Свежие данные исследований показывают, что люди продолжают придерживаться своих убеждений, даже если их «информационный пузырь» был разрушен. Вот только для борцов со лженаукой и теориями заговора это плохая новость: образовательная работа должна вестись куда глубже, чем базовой уровень настройки ленты соцсетей, иначе каждый просто останется при своем мнении.

* Принадлежит компании Meta, признанной в России террористической организацией.