Новые боги. Как онлайн-платформы манипулируют нашим выбором и что вернет нам свободу - Кристиан Монтаг

занимает важное место в изучении ИИ. Об этом говорит в своей книге «Сверхдержавы искусственного интеллекта» [378] доктор Кай-Фу Ли, ведущий исследователь ИИ. Недавно он задался вопросом, какая из двух глобальных держав – США или Китай – выиграет гонку за более совершенный искусственный интеллект. Если вкратце, он утверждает, что Китай неизбежно опережает соперника по объему информации: 1,4 миллиарда китайцев попросту генерируют больше данных, чем около 330 миллионов американцев, особенно если учесть, сколько видеокамер установлено в Поднебесной и какой масштаб здесь приобрела цифровизация. По идее, те, у кого больше «хороших» данных, могут лучше обучить ИИ. На примере нескольких исследований, приведенных в этой книге, мы уже могли убедиться, что изучение или анализ больших объемов данных часто приводят к более надежным результатам. Китай, вероятно, будет лидером будущих разработок ИИ благодаря поддержке со стороны правительства, большому количеству специалистов, а также, не в последнюю очередь, особой культуре предпринимательства [379].

Мы слышим эхо не только в горах, но и в ландшафте ежедневных новостей. Широко обсуждаемый феномен эхокамеры не нов и был известен задолго до цифровой эпохи: люди окружают себя той информацией, которая соответствует их мировоззрению. В такую эхокамеру легко попасть, например, если предпочитать один источник новостей, будь то газета taz или газета Bild. Логично, что любимое издание будет, скорее всего, подтверждать наши взгляды. А вот чтобы посмотреть на ситуацию под другим углом, всегда требуются серьезные усилия.

Но эхокамера возникает не только когда мы регулярно читаем одну и ту же ежедневную газету и ничего кроме. Компания завсегдатаев в кафе, которая за столиком сокрушается о политике Ангелы Меркель в отношении коронавируса, тоже может стать эхокамерой – ведь они подтверждают взгляды друг друга. Так что нет ничего удивительного в том, что в исследованиях в сфере политологии и массмедиа уже многие годы говорят об отрицательном влиянии эффекта эхокамеры на политический дискурс.

Прежде чем подробно остановиться на негативном воздействии этого феномена, давайте поговорим о смежном понятии – пузыре фильтров. Этот термин получил известность благодаря книге Эли Паризера «За стеной фильтров. Что интернет скрывает от вас?» («The Filter Bubble: What the Internet Is Hiding From You») [380] и иллюстрирует, что происходит, когда технологические компании радикально фильтруют информацию. Пузырь фильтров возникает, когда на онлайн-платформах отображается только тот контент, который соответствует цифровым следам пользователя. Как и в случае с эффектом эхокамеры, люди будут сталкиваться в социальных сетях и поисковых системах исключительно с новостями и постами, соответствующими их мировоззрению. Подобная предварительная фильтрация – обычная практика для IT-гигантов: ленты подвергаются алгоритмической обработке, чтобы лучше соответствовать интересам пользователя. Но, к сожалению, не все об этом знают.

Попробуем сопоставить понятия эхокамеры и пузыря фильтров. Для начала отметим, что первая появилась гораздо раньше. Как я уже описывал в примере выше, читатель сам принимает решение покупать одну и ту же ежедневную газету исходя из своих предпочтений. В новостной ленте, напротив, алгоритмы выдают пользователю заранее отфильтрованную информацию.

Пользователь может активно решать, что делать в социальных сетях: какие записи публиковать, где ставить лайки. Тем не менее, когда алгоритмы формируют для него ленту новостей, он находится в пассивной роли. И все же разделение понятий пузыря фильтров и эхокамеры сегодня кажется немного искусственным [381]: в том же твиттере я сам могу выбирать, на какие аккаунты подписаться (то есть активно фильтровать контент в ленте). При этом моя собственная активность в социальной сети закладывает основу для пузыря фильтров (если бы я ничего не делал, технологические компании не узнали бы, какой контент меня интересует). Таким образом, мое поведение в социальных сетях и алгоритмы технологических корпораций дополняют друг друга. В дальнейшем я не буду строго разграничивать эти понятия.

Напомню, что формирование персонализированной ленты новостей выгодно технологическим корпорациям, так как это хороший способ увеличить время пребывания пользователей на онлайн-платформе (см. главу 3). В конечном счете, оказавшись внутри пузыря фильтров или же в эхокамере, мы слышим лишь отзвуки нашего собственного мировосприятия. Отчасти за это ответственны мы сами: ведь мы создаем эхокамеру вокруг себя, а наши друзья, как правило, разделяют наши взгляды и интересы (позже мы поговорим о социальной гомофилии). Но одновременно с этим эхокамера может быть выстроена технологическими корпорациями [382]. Я убежден, что необходимо знать и понимать, как это работает, чтобы сделать первый шаг к победе над ними.

Технологические компании начали предварительно фильтровать контент совсем недавно. В книге «Обезьяний хаос в Кремниевой долине» («Chaos Monkeys: Obscene Fortune and Random Failure in Silicon Valley») бывший сотрудник Facebook Антонио Гарсиа Мартинес рассказывает о том, как еще во время онбординга [383] в апреле 2011 года впервые столкнулся с мыслью, что фейсбук, ставший сегодня самой влиятельной социальной сетью в мире, все больше превращается в персонализированную газету. В тот момент полным ходом шел процесс соответствующей трансформации платформы: если в 2004 году социальная сеть выглядела скорее как список друзей, то уже в 2006-м была представлена мини-лента, а в 2011-м появилась хроника, отображающая историю жизни пользователя (см. статью Люка Манна и информацию на фейсбуке) [384]. В своей книге Антонио Гарсиа Мартинес метко описывает эту идею как «твой личный The New York Times». На основании цифровых следов пользователя в этой «газете» будет отображаться та информация, которую он, по оценке алгоритмов, должен обязательно прочитать, чтобы поддержать беседу со своими друзьями и коллегами [385]. Таким образом, личная цифровая история в фейсбуке играет важную роль для понимания, как именно формируется лента новостей. В статье на techcrunch.com журналист Джош Констайн приводит простую формулу с критериями, по которым искусственный интеллект фейсбука отбирает новости для персонализированной ленты [386]. Пояснения к формуле наглядно показывают, что история действий пользователя здесь играет немаловажную роль.

Критерии отбора новости для ленты:

Итак, что же скрывается за элементами этой формулы?

Переменная «Автор публикации» учитывает, насколько важен и близок для вас человек, разместивший пост. Как часто автор публикации контактирует с владельцем ленты новостей на фейсбуке? Логично, что сообщения от тех людей, с кем мы чаще общаемся, имеют больше шансов оказаться в нашей ленте.

Переменная «Популярность сообщения» используется для расчета того, какой отклик получил пост/комментарий: если у поста много лайков и репостов, фейсбук покажет вам его с большей вероятностью.

Переменная «Тип публикации», как и переменная