элиты, направленная на получение власти, а то, что вы читаете в Библии, Коране или Ведах, - абсолютная истина.
Вариация на эту тему призывает людей довериться харизматическим лидерам, таким как Трамп и Болсонаро, которых их сторонники изображают либо посланниками Бога, либо обладающими мистической связью с "народом". В то время как обычные политики лгут народу, чтобы добиться власти для себя, харизматический лидер является непогрешимым глашатаем народа, который разоблачает всю ложь. Один из повторяющихся парадоксов популизма заключается в том, что он начинает с предупреждения о том, что всеми человеческими элитами движет опасная жажда власти, но часто заканчивает тем, что доверяет всю власть одному амбициозному человеку.
Более подробно мы рассмотрим популизм в главе 5, но сейчас важно отметить, что популисты подрывают доверие к масштабным институтам и международному сотрудничеству именно тогда, когда человечество сталкивается с экзистенциальными проблемами экологического коллапса, глобальной войны и вышедших из-под контроля технологий. Вместо того чтобы доверять сложным человеческим институтам, популисты дают нам тот же совет, что и в мифе о Фаэтоне и "Ученике колдуна": "Доверьтесь Богу или великому волшебнику, который вмешается и снова все сделает правильно". Если мы последуем этому совету, то, скорее всего, в краткосрочной перспективе окажемся под властью худшего вида жаждущих власти людей, а в долгосрочной - под властью новых владык ИИ. Или же мы вообще окажемся нигде, поскольку Земля станет негостеприимной для жизни людей.
Если мы хотим избежать передачи власти харизматичному лидеру или непостижимому искусственному интеллекту, мы должны сначала лучше понять, что такое информация, как она помогает строить человеческие сети и как она связана с истиной и властью. Популисты правы, когда с подозрением относятся к наивному взгляду на информацию, но они ошибаются, когда думают, что власть - это единственная реальность и что информация - это всегда оружие. Информация не является сырьем для истины, но она также не является и простым оружием. Между этими крайностями есть достаточно места для более тонкого и обнадеживающего взгляда на человеческие информационные сети и на нашу способность разумно распоряжаться властью. Эта книга посвящена исследованию этой середины.
ПУТЬ ВПЕРЕД
В первой части этой книги рассматривается историческое развитие человеческих информационных сетей. В ней нет попытки представить исчерпывающее описание информационных технологий, таких как письменность, печатные станки и радио, от века к веку. Вместо этого на нескольких примерах рассматриваются ключевые дилеммы, с которыми сталкивались люди во все эпохи, пытаясь создать информационные сети, и анализируется, как различные ответы на эти дилеммы формировали контрастные человеческие общества. То, что мы обычно считаем идеологическими и политическими конфликтами, часто оказывается столкновениями между противоположными типами информационных сетей.
Часть 1 начинается с рассмотрения двух принципов, которые были важны для масштабных человеческих информационных сетей: мифологии и бюрократии. В главах 2 и 3 описывается, как крупные информационные сети - от древних королевств до современных государств - опирались как на мифотворцев, так и на бюрократов. Например, библейские истории были важны для христианской церкви, но Библии не было бы, если бы церковные бюрократы не курировали, не редактировали и не распространяли эти истории. Сложная дилемма для каждой человеческой сети заключается в том, что создатели мифов и бюрократы тянут в разные стороны. Институты и общества часто определяются балансом, который им удается найти между противоречивыми потребностями мифотворцев и бюрократов. Сама христианская церковь разделилась на конкурирующие церкви, такие как католическая и протестантская, которые по-разному балансировали между мифологией и бюрократией.
Глава 4 посвящена проблеме ошибочной информации, а также преимуществам и недостаткам существования механизмов самокоррекции, таких как независимые суды или рецензируемые журналы. В главе противопоставляются институты, полагающиеся на слабые механизмы самокоррекции, например католическая церковь, и институты, развившие сильные механизмы самокоррекции, например научные дисциплины. Слабые механизмы самокоррекции иногда приводят к историческим катаклизмам, таким как европейские охоты на ведьм раннего нового времени, в то время как сильные механизмы самокоррекции иногда дестабилизируют сеть изнутри. Если судить по продолжительности существования, распространению и силе, то католическая церковь была, возможно, самым успешным институтом в истории человечества, несмотря на относительную слабость механизмов самокоррекции - а может быть, и благодаря ей.
После того как в первой части были рассмотрены роли мифологии и бюрократии, а также контраст между сильными и слабыми механизмами самокоррекции, глава 5 завершает историческую дискуссию, сосредоточившись на другом контрасте - между распределенными и централизованными информационными сетями. Демократические системы позволяют информации свободно распространяться по множеству независимых каналов, в то время как тоталитарные системы стремятся сконцентрировать информацию в одном узле. У каждого варианта есть как преимущества, так и недостатки. Понимание таких политических систем, как США и СССР, с точки зрения информационных потоков может многое объяснить в их различных траекториях развития.
Эта историческая часть книги крайне важна для понимания современных событий и будущих сценариев. Возникновение ИИ - это, пожалуй, крупнейшая информационная революция в истории. Но мы не сможем понять ее, если не сравним с ее предшественниками. История - это не изучение прошлого, это изучение изменений. История учит нас тому, что остается неизменным, что меняется и как все меняется. Это относится как к информационным революциям, так и к любым другим видам исторических преобразований. Так, понимание процесса, в ходе которого якобы непогрешимая Библия была канонизирована, дает ценное представление о современных претензиях на непогрешимость ИИ. Аналогичным образом, изучение охоты на ведьм в ранние времена и сталинской коллективизации дает суровое предупреждение о том, что может пойти не так, когда мы предоставляем ИИ больший контроль над обществами XXI века. Глубокое знание истории также необходимо для того, чтобы понять, что нового в ИИ, чем он принципиально отличается от печатного станка и радиоприемника и в чем конкретно будущая диктатура ИИ может быть совершенно не похожа на то, что мы видели раньше.
В книге не утверждается, что изучение прошлого позволяет нам предсказывать будущее. Как неоднократно подчеркивается на последующих страницах, история не детерминирована, и будущее будет зависеть от того, какой выбор мы все сделаем в ближайшие годы. Смысл написания этой книги заключается в том, что, делая осознанный выбор, мы можем предотвратить худшие последствия. Если мы не можем изменить будущее, зачем тратить время на его обсуждение?
Опираясь на исторический обзор первой части, вторая часть книги - "Неорганическая сеть" - рассматривает новую информационную сеть, которую мы создаем сегодня, фокусируясь на политических последствиях развития ИИ. В главах 6-8 рассматриваются недавние примеры из разных стран мира - например, роль алгоритмов социальных сетей в разжигании этнического насилия в Мьянме в 2016-17 годах, - чтобы объяснить, чем
