важное следствие, помимо сокращения человеческих усилий. Технологически зрелый мир пластичен. Я имею в виду, что он обладает возможностями, которые позволяют легко достичь любой предпочтительной локальной конфигурации.
Допустим, у нас есть некоторое количество базовых физических ресурсов: комната, полная различных видов атомов, и некоторый источник энергии. У нас также есть некоторые предпочтения относительно того, как эти ресурсы должны быть организованы: мы хотим, чтобы атомы в комнате были расположены таким образом, чтобы составить стол, компьютер, хорошо сделанный камин и щенка лабрадудля. В полностью пластичном мире можно было бы просто произнести команду - предложение на естественном языке, выражающее желание, - и, вуаля, содержимое комнаты будет быстро и автоматически реорганизовано в желаемую конфигурацию. Возможно, вам придется подождать двадцать минут, возможно, через стены будет уходить немного тепла: но, открыв дверь, вы обнаружите, что все расставлено именно так, как вы хотели. На столе даже стоит ваза со свежесрезанными тюльпанами - то, о чем вы не просили, но что каким-то образом подразумевалось в вашей просьбе.
Аутопотенция
Важным частным случаем пластичности является то, что вы обладаете способностью изменять себя так, как вам хочется. В одной из своих ранних работ я назвал эту способность аутопотенцией. Автопотентное существо - это существо, обладающее полной властью над собой, включая свои внутренние состояния. У него есть необходимая технология и ноу-хау, чтобы использовать ее, чтобы изменить себя так, как оно считает нужным, как физически, так и ментально. Так, человек, обладающий автопотенцией, может с легкостью изменить себя так, чтобы испытывать мгновенную и непрерывную радость, или увлечься коллекционированием марок, или принять облик льва.
У этих понятий, пластичности и автопотенции, есть крайние случаи, которые я, несмотря на свою педантичность, не буду пытаться здесь точно очертить, поскольку они не имеют отношения к настоящему исследованию. Эта задача будет оставлена будущим экспликаторам.
Тессиус [шепчет]: Ваш пример с числом омега Хайтина указывает на один крайний случай, верно? Невозможно организовать нейроны для регистрации первой тысячи цифр, хотя сама констелляция, очевидно, физически возможна. Так скажем ли мы, что существо может быть совершенно автопотентным, не имея практической возможности достичь этой конкретной локальной конфигурации, или вместо этого мы скажем, что ни одно мирское существо не может быть совершенно автопотентным?
Кельвин [шепотом]: Ага.
Тессиус: Или, может быть, есть какой-то смысл, в котором эта конфигурация на самом деле не является физически возможной или диахронически осуществимой, в конце концов?
Агентурные осложнения и удача
Бостром: Условие пластичности не подразумевает, что каждый человек имеет неограниченную власть над своим окружением и самим собой. Это было бы невозможно в среде, населенной множеством агентов, поскольку иногда они могут иметь противоречивые предпочтения. Скорее, пластичность означает власть над природой. Она выражается в безусловной способности добиваться любого физически возможного результата в локальной среде только при отсутствии противодействия со стороны других наделенных властью агентов.
В мире, где существует множество агентов, преследующих порой противоположные цели, общее повышение пластичности не обязательно сделает кого-то лучше. Технологический прогресс может ухудшить положение всех нас, например, позволив легче и масштабнее совершать злодеяния.
Даже в отсутствие конфликтов или злонамеренности рост власти не является аксиомой. Власть можно использовать неосмотрительно. Я думаю, если мы хотим определить набор цивилизационных свойств, близкий к аксиоматически выгодному, он должен включать в себя по крайней мере три атрибута: не только власть над природой, но и сотрудничество с другими существами, а также мудрость.
И даже тогда это не является аксиомой. При большой мудрости и сотрудничестве технологический прогресс все равно может оказаться вредным, если нам не повезет. Мы можем с умом пойти на риск, который до этого стоил того, чтобы на него пойти, а после обнаружить, что это было ошибкой.
В зависимости от того, сколько морального содержания мы вкладываем в понятие мудрости, возможен и другой вариант плохого исхода событий, даже при наличии мудрости и сотрудничества, - если люди достаточно злы: тогда они могут успешно работать вместе, чтобы достичь какого-то злого результата.
Третий, более тонкий способ, с помощью которого максимальные технологии, мудрость и сотрудничество могут оказаться неоптимальными, - это если некоторые важные ценности сами требуют ограничения наших возможностей: например, если смысл нашей жизни будет в достаточной степени подорван условием пластичности. Но об этом подробнее позже.
Надежные траектории
Тем не менее, кажется правдоподобным, что общество, обладающее максимальными технологическими возможностями, максимальным сотрудничеством и максимальной мудростью, будет очень хорошим - уже утопическим или быстро приближающимся к этому, при условии, что оно не будет подвергаться внешней угрозе.
Мы можем считать, что эти три атрибута определяют трехмерное пространство, в котором наилучшая утопия находится в дальнем верхнем углу, где все три атрибута реализованы в полной мере. Наше нынешнее положение в этом пространстве находится где-то посередине - хотя, если исходить из некой абсолютной шкалы, мы, вероятно, должны считать себя гораздо ближе к origo, чем к утопическому пределу.
Следует отметить, что это пространство не является выпуклым по отношению к благости. Под этим я подразумеваю, что приближение к утопии с нашей нынешней позиции не обязательно сделает вещи лучше. Например, легко может оказаться, что некоторые передовые технологические возможности будут полезны только тогда, когда мир достигнет достаточного уровня сотрудничества, чтобы не использовать их для войны и угнетения. Аналогичным образом, некоторые передовые возможности сотрудничества могут быть полезны только в обществах, превышающих некий минимальный порог мудрости, без которого возникшее в результате кооперативное равновесие может служить лишь для укрепления каких-то преобладающих предрассудков или заблуждений и навсегда закрепить ущербный статус-кво.
Следует также отметить, что пути, ведущие к наиболее быстрому росту благосостояния, могут отличаться от путей, которые в конечном итоге, наиболее быстро или с наибольшей уверенностью, ведут к утопии. То есть возможно, что путь наиболее быстрого улучшения ведет лишь к локальному оптимуму. В этом случае может возникнуть противоречие между интересами относительно примитивного поколения, такого как наше, и интересами будущих утопистов, появление которых на свет может потребовать от их предков определенных жертв и терпения.
В целом люди, похоже, не готовы идти на большие жертвы ради потомков. Но мы можем надеяться, что либо (а) создать утопию легко, либо (б) шаги, необходимые для ее достижения, совпадают с некоторыми шагами, которые люди мотивированы предпринять по другим причинам, либо (в) мы уже в утопии, либо (г) мы получим помощь извне, либо (д) мы найдем способ объединить и аккумулировать те части нашей воли, которые разделяют любовь к утопии. Возможно, эти части, хотя и слабые по отдельности, при правильном механизме могут быть конструктивно
