быть даже использованы для того, чтобы остановить дальнейшие достижения в области координации, заблокировав состояние, которое, по сути, является некоординированным, за исключением тех ограниченных форм координации, которые необходимы для вечного сохранения анархии. В современном мире существует множество примеров механизмов, препятствующих координации: они действуют сверху вниз, например, когда антимонопольные регуляторы затрудняют сговор фирм; и снизу вверх, например, когда общественность, охваченная националистическими настроениями, затрудняет переговоры между двумя враждующими странами о прекращении военных действий.
Возможно, судьба человечества запутана.
Как вы думаете, что я имею в виду под этой метафорой? Кто-нибудь?
Студент: Что если мы сделаем глупый и безответственный выбор сейчас, это может повлиять на наше долгосрочное будущее.
Бостром: Ну, это тоже может быть правдой: наша судьба может быть чокнутой. И/или непослушной. Но я имел в виду узловатый: к-н-о-т-т-й.
Некоторые проблемы координации можно сравнить с узлами, а технологический прогресс - с натяжением струны. Если тянуть за концы струны, то она растягивается и становится более длинной. И некоторые узлы действительно могут быть решены таким образом ("тривиальные" узлы, хотя в практическом смысле они могут быть вовсе не тривиальными); но нет никакой гарантии, что это верно для всех узлов . Некоторые узлы могут потребовать ловкого государственного управления или моральной изощренности, чтобы их распутать. Если нам не повезет, некоторые из этих маневров могут произойти до того, как технологический прогресс затянет узлы настолько туго, что никакие пальцы не смогут их развязать.
Мы можем использовать эту аналогию с узлами и в других случаях. Во многих случаях, если вы сильно потянете за веревку с несколькими узлами, то, хотя вам и не удастся избавиться от узлов, вы, тем не менее, сможете растянуть веревку примерно до той же длины, которой она достигла бы без узлов. Аналогичным образом можно сказать, что для некоторых, но не для всех проблем координации, стоимость их неэффективности или "потери мертвого веса" могут быть значительно снижены достаточно сильным технологическим буксиром. Например, если сегодня деспоту приходится прибегать к жестокому угнетению, чтобы удержаться у власти, то при наличии более мощных технологических возможностей - например, продвинутых технологий промывания мозгов или внушения - он может получить все, что хочет, включая постоянное удержание власти, не прибегая к столь жестким методам контроля над населением. Это было бы похоже на туго натянутую струну с неустранимым узлом: при благоприятном стечении обстоятельств она могла бы достичь почти того же расстояния, что и без узла.
Не исключено, что координация зависит от пути, возможно, даже в пределе технологической зрелости. Другими словами, возможно, что результат при совершенной технологии координации сильно зависит от того, как мы туда попали: в какой последовательности были достигнуты определенные успехи, какие другие (не координационные) технологии были разработаны на этих этапах, и, в более широком смысле, какие акторы занимали главенствующее положение и как действовала более широкая социальная динамика на различных критических этапах. На пути будущего развития человечества могут возникнуть траекторные ловушки. Если нам не повезет, может даже оказаться, что все вероятные пути к действительно прекрасной утопии заблокированы - не потому, что утопия не будет технологически, экономически и политически возможным и устойчивым состоянием, а потому, что все реалистичные пути отсюда туда ведут в некую неизбежную траекторную ловушку, где наша цивилизация будет разрушена, застрянет или отклонится.
К счастью, не похоже, что все траектории между нами и утопией заперты - по крайней мере, у нас нет веских доказательств, чтобы исключить возможность того, что по крайней мере один путь открыт.
Пруденциальные барьеры
Еще одним возможным ограничителем нашего эффективного утопического потенциала является то, что мы можем назвать пруденциальным барьером.
Например, предположим, что для достижения наилучшего результата необходимо сделать определенный шаг, например, разработать технологию X. Возможно, X - это технология, позволяющая ускорить перемещение, так что с ее помощью мы сможем приблизиться к скорости света и тем самым колонизировать большую часть доступной вселенной, прежде чем она уйдет за наш горизонт событий. Но предположим, что X предполагает использование какого-то нового и непонятного физического явления, которое может возникнуть только в каких-то экстремальных искусственно вызванных условиях. Тогда можно представить, что разработка Х сопряжена с некоторым экзистенциальным риском - возможно, риском спровоцировать распад вакуума или запустить какой-нибудь другой разрушительный для мира процесс.
Разумная цивилизация подходит к X с осторожностью и проводит обширные исследования соответствующих принципов, используя безопасные теоретические инструменты и компьютерное моделирование. Но после всех этих исследований может остаться некоторая неопределенность, которую можно устранить, лишь проведя эксперимент, в результате которого рассматриваемое явление действительно возникнет. Если вероятность катастрофы в свете всей информации, которую можно безопасно собрать, окажется слишком высокой, то дальнейшее продвижение по этому технологическому пути будет неосмотрительным. Нам придется довольствоваться тем, что мы будем путешествовать по космосу с меньшей скоростью и пустим на ветер большую часть космического богатства. Но предположим, что феномен на самом деле безвреден. Тогда существует более утопическое будущее, в котором возможна технология X - не препятствуемая ни физическими законами, ни технологической неосуществимостью, ни трудностями социальной координации, - которая, тем не менее, будет запрещена в силу того, что особенности эпистемического ландшафта образуют благоразумный барьер для дальнейшего продвижения в этом направлении.
Не исключено, что цивилизация может "пробить туннель" через пруденциальный барьер в квантовом стиле, если она достаточно иррациональна или нескоординирована. Тогда она может пойти на риск, который было бы неосмотрительно брать на себя, и ей повезет. Я не уверен, что мы были бы там, где находимся сегодня, если бы в прошлом не было такого безрассудного туннелирования.
Могут также существовать благоразумные барьеры, которые высоки, но не бесконечно высоки: полосовые фильтры, блокирующие цивилизации только в определенном диапазоне эпистемической изощренности - те, которые слишком умны и скоординированы, чтобы просто пробить туннель, но недостаточно умны, чтобы перелезть через него. Рассмотрим бутылку с жидкостью с надписью "монооксид дигидрогена". Младенец, испытывающий жажду, с удовольствием выпьет ее, поскольку не может прочитать текст. Так же поступит и жаждущий химик, поскольку поймет, что это просто вода. Но малообразованный середнячок откажется пить, учитывая пугающую номенклатуру. Это, кстати, та самая скобка, в которую многие из вас попадут после отсрочки получения диплома.
Тессиус [шепчет]: Гори!
Кельвин (шепотом): Возможно, это не тот способ завоевать сердца и умы вашей аудитории, чтобы называть их начинающими "середнячками".
Тессиус (шепотом): Но правда в рекламе. Или он думает, что если некоторые бросят учебу, то будет меньше работ, которые нужно будет оценивать?
Бостром: Будем надеяться, что если мы столкнемся с пруденциальным барьером, который заблокирует наше продвижение
