Новые боги. Как онлайн-платформы манипулируют нашим выбором и что вернет нам свободу - Кристиан Монтаг

Вот еще одна идея, как бороться с дезинформацией в социальных сетях: можно настроить алгоритмы таким образом, чтобы широкое распространение (например, более чем в десяти новостных лентах) получали только новости, получившие пометку о достоверности не менее чем от трех человек с хорошей репутацией [595] за пределами собственного узкого круга общения. В любом случае важно снизить масштаб распространения фейковых новостей. И здесь нам тоже может помочь простая процедура рецензирования.

Об этичном маркетинге и этичном программировании

Есть расхожая байка, что зрителей кинотеатров в 1950-х годах соблазняли покупать колу и попкорн при помощи рекламы, воздействуя на их подсознание. Говорят, что посетителям показывали сообщение «Ешь попкорн и пей кока-колу!», оказывая на них сублиминальное, то есть подсознательное воздействие. Послание якобы мелькало на экране кинотеатра настолько быстро, что зрители воспринимали его неосознанно. Из экспериментов с праймингом [596] в психологии хорошо известно, что мозг реципиента может обрабатывать сублиминально представленные сообщения, например в том же кинотеатре. Но неужели кто-то и в самом деле пойдет покупать попкорн? Скорее всего, нет [597]. После того как пошли слухи о подобной рекламе в кино и стали появляться новости о соответствующих психологических экспериментах, многих охватила паника: если человека действительно можно подсознательно заставить купить колу, страшно представить, что будет дальше. Потребители боятся манипуляций. Они боятся, что ими воспользуются и заставят сделать то, чего они, возможно, не хотели бы.

А как обстоит дело с манипулированием человеческим сознанием сегодня, 60 лет спустя, в цифровую эпоху? В эпоху, когда технологические компании проглатывают нас целиком – в виде массивов данных? Раз вы дочитали до этого места, значит, вам знакомо уже множество тревожных примеров (но не будем поддаваться панике). На данный момент исследования показывают, что по крайней мере некоторые человеческие качества можно относительно точно оценить на основе цифровых следов. Вполне логично предположить, что существует определенный риск злоупотребления этими данными. Особенно опасной выглядит перспектива прицельного воздействия на конкретные группы людей. Как я уже упоминал в главе 4, мы пока не знаем, как сильно микротаргетинг влияет на пользователей, – возможности независимых исследователей оценить это эмпирически весьма ограниченны.

Все это подводит меня к вопросу об ответственности представителей широкого круга профессий – от маркетологов до программистов. Хотелось бы задать им несколько вопросов, например: приемлемо ли вообще рекламировать определенные продукты (сигареты или, скажем, праворадикальную партию)? Уместна ли с моральной точки зрения попытка таргетировать детскую аудиторию (через Facebook Kids [598] или Instagram Kids [599])? По каким каналам проходит реклама и можно ли гарантировать, что потенциальный потребитель сможет отличить рекламное сообщение от обычного поста?

Разоблачитель Кристофер Уайли предложил в своей книге «Mindf*ck» неплохую аналогию для ответа на вопрос об ответственности, которую несут разработчики приложений соцсетей. Он пишет, что к ним стоит предъявлять такие же требования, как к архитектору и спроектированному им зданию. Если дом рушится, за недочеты в проектировании отвечает архитектор. А кто будет нести ответственность, если рухнет «здание» социальных сетей? Иными словами, речь идет о профессиональной этике упомянутых выше специалистов. Этика – в первую очередь научная дисциплина, предметом изучения которой являются правильные действия. Нужно ли закреплять в профессиональном «кодексе» разработчиков приложений принципы этичного дизайна? Думаю, да. К слову, уже высказываются дельные предложения, которые следует принять во внимание разработчикам.

Пирамида на рисунке 9.5 показывает, насколько важно учитывать базовые права пользователей при разработке приложений. Технологии должны работать таким образом, чтобы сглаживать социальное неравенство и уважать права индивида. Кроме того, необходимо помнить, что время – это бесценный ресурс, а значит, приложения не должны воровать его у нас; напротив, их дизайн должен быть функциональным, практичным и надежным. А уважение к пользователю заключается, в конце концов, еще и в том, чтобы ему самому было приятно пользоваться приложением. Если мы взглянем на большинство современных социальных сетей или приложений с freemium-играми и применим к ним отраженные в пирамиде критерии, то поймем, что там есть что улучшать.

Рис. 9.5. Принцип этичного дизайна Арала Балкана и Лоры Кальбаг (измененная версия; оригинал по ссылке: https://2017.ind.ie/ethical-design/; см. также Montag & Hegelich, 2020 и примечание 51)

Никто не знает, что ждет нас в будущем. В этом стремительном веке мы можем лишь вместе работать над тем, чтобы обустраивать цифровой мир так, чтобы он помогал удовлетворять наши базовые потребности, не превращая при этом нас самих в безвольные инструменты. И все же, как бы мы ни старались, с учетом растущего значения «интернета вещей» в нашей жизни возможность полностью защититься от негативных последствий цифровизации кажется мне иллюзорной. Противостоять всем попыткам заглянуть в наши мысли и души в таких условиях просто нереально, а рассчитывать, что дизайн каждого приложения будет соответствовать всем моральным и этическим принципам, – все равно что ждать наступления утопии. Чтобы действительно обеспечить стопроцентную неприкосновенность частной жизни и неуязвимость для манипуляций, в конечном итоге нам пришлось бы полностью отказаться от какого-либо взаимодействия с цифровыми устройствами. По сути, это означало бы уход в затворничество, ведь общество все больше и больше дигитализируется. Однако человек – существо коллективное, ему необходимы другие люди, в том числе те, с кем он общается с помощью соцсетей. Таковы наши потребности. Именно поэтому жизненно важно уже сейчас определить, кто и для каких целей будет собирать и использовать наши данные – и какую информацию мы готовы им предоставить.

На юге Тайваня, в городе Тайнань (táinán shì, 臺南市), я прихожу в храм бога – покровителя этих мест. Из глубины храма доносится cтук: на пол падают камушки, формой напоминающие половинку луны. Каждый день в сотнях храмов Тайваня люди бросают их на пол, чтобы узнать ответы на самые сокровенные вопросы. Получится ли у меня хорошо сдать экзамен? Взаимна ли моя любовь? Смогу ли я выздороветь? Ответ божества зависит от того, как упадут лунные камешки. Конечно, задавая вопросы и загадывая желания, все надеются получить заветное «да». В этом случае после броска один из лунных камешков приземлится плоской стороной, а другой – выпуклой.

Неравномерный стук камешков об пол – не единственное, на что обращаешь внимание, стоит лишь войти в храм; в воздухе витает аромат благовоний. Прямо надо мной висит большая деревянная табличка, на которой золотыми иероглифами выведена знаменитая фраза: «Eˇr láile», «了來 爾». В вольном переводе: «А вот наконец и ты!» Три китайских иероглифа на дощечке –