захотим тщательно контролировать запас новизны.
Это особенно верно в отношении новизны развития, то есть новых уровней общих возможностей, которые мы могли бы открыть с помощью технологий усовершенствования. Есть две причины, по которым на них следует особенно экономить. Во-первых, потому что общее число возможных повышений уровня наших общих способностей (на определенную процентную величину), скорее всего, будет довольно небольшим (если бы вы каждый день увеличивали свой мозг на 10 %, вы бы испытали гравитационный коллапс всего за несколько лет). Во-вторых, потому что увеличение общего потенциала позволяет нам быстрее истощать некоторые области, связанные с проблемами окружающей среды. Например, многие игры, в которых вы или я можем найти источник стимулирующего вызова, которые могли бы с удовольствием развлекать нас в течение многих зимних дней, будут неинтересно тривиальными для сверхинтеллекта, который с первого взгляда определяет оптимальную стратегию. Поэтому, возможно, нам не следует торопиться, чтобы извлечь из этих игр удовольствие и интерес, прежде чем мы поднимемся на новый уровень когнитивных способностей. В утопии, возможно, было бы ошибкой торопиться со взрослением.
Я говорю "возможно", потому что существуют и неразвивающиеся формы интересности - интересности калейдоскопического вида, - которые мы могли бы испытывать на значительно более высоком (но бесконечно устойчивом) уровне, будучи постчеловеческими сверхсуществами. Существуют и другие ценности, помимо интересности, которые мы могли бы более полно воплотить в своей жизни, когда у нас появится больше возможностей и мы станем более развитыми; удовольствие - лишь самая очевидная из них. Поэтому совсем не очевидно, что отложенное вознесение, с учетом всех обстоятельств, предпочтительнее. Постчеловеческая жизнь может быть настолько хороша, что даже если путь к ней будет весьма живописным, пролегающим через очаровательную сельскую местность с лугами и садами, было бы глупо хоть немного сбавить темп или остановиться, чтобы понюхать цветы: возможно, нам следует просто постараться добраться туда как можно быстрее.
Тессиус (шепотом): Дальнобойщики называют это "домашней скоростью".
Фирафикс [шепчет]: Поэтично.
Тессиус (шепотом): Но в бутылках с соком приличия выходят за рамки.
Бостром: И все же, чем длиннее будет наша жизнь, тем более правдоподобно, что жизненный путь, который оптимально реализует паноптикум наших ценностей, будет таким, который отводит некоторый начальный отрезок нашего времени для наслаждения существованием в качестве менее чем максимально развитых существ. Этот начальный отрезок может быть очень коротким по сравнению с общей продолжительностью жизни постчеловека, но он может быть длинным по сравнению с продолжительностью обычной человеческой жизни.
Идентичность, выживание, трансформация, дисконтирование
Есть еще одна причина, по которой мы можем захотеть ускорить свой путь к утопии, когда мы достигнем экзистенциальной безопасности как в индивидуальном, так и в цивилизационном плане. Эта причина более общая: она относится не только к ценности интересности, но и к другим ценностям, которые мы можем пожелать реализовать в своей жизни.
Предположим, что вы внезапно превратились в мозг Юпитера. Если бы вы внезапно превратились в такое существо, трудно представить, как вы могли бы избежать серьезного разрушения своей личной идентичности в процессе. Достаточно сложно понять, как такая трансформация может сохранить личную идентичность, если она происходит очень медленно и постепенно; но если сжать ее до субъективно короткого промежутка времени, это может неизбежно разорвать нити благоразумной заботы, которые связывают наших нынешних "я" с будущими субъектами, которыми мы, возможно, надеемся стать.
Рассмотрим следующий мысленный эксперимент:
Резкое созревание
Четырехлетний ребенок ложится спать вечером и просыпается на следующее утро полностью сформировавшимся взрослым. За ночь его тело выросло, мозг созрел, а сон без сновидений привил ему навыки и знания, на приобретение которых в обычных условиях ушло бы двадцать лет. Нейронные паттерны, аналогичные запомненным переживаниям, отпечатались в коре головного мозга, так что проснувшийся человек не полностью лишен автобиографической информации или информации от первого лица.
Кстати, обратите внимание, что эта процедура не обязательно подразумевает, что человек, просыпающийся утром, заблуждается относительно своего прошлого. Мы можем предположить, что имплантированные воспоминания снабжены флажками, идентифицирующими их как таковые. Хотя человек утром, таким образом, не будет помнить свою собственную реальную жизнь (за пределами четырех лет, которые он прожил до проведения этой странной операции), у него будет база данных квазивоспоминаний, отобранных из контрфактической жизни, примерно похожей на ту, которую он прожил бы, если бы продолжал нормально расти, и которую он сможет использовать по крайней мере для некоторых индуктивных целей, для которых служат настоящие автобиографические воспоминания у людей с обычным прошлым.
Теперь мужчина, сидящий утром на краю кровати, вытянув длинные конечности и поглаживая щетину: в некотором смысле он является личным продолжением мальчика, которого уложили в кровать накануне вечером. Он хранит воспоминания мальчика, разделяет некоторые черты его характера, а его тело - это метаморф и перерождение тела мальчика. И все же в некотором смысле, можно сказать, он - другой человек.
Поэтому мы можем спросить: Был ли у мальчика просто необычный скачок роста? Или мальчик умер, а на его место пришел смутно похожий молодой человек?
Вместо того чтобы ставить дилемму так резко, как выбор между двумя радикально различающимися возможностями, я думаю, нам лучше использовать более количественный подход, который фокусируется на "выживании" и признает, что это вопрос степени. Хотя иногда я могу использовать термин "личная идентичность", я не имею в виду отношения, которые обязательно удовлетворяют математическим критериям идентичности (таким как транзитивность). Вместо этого я буду использовать этот термин для обозначения отношения, которое имеет место тогда и в той степени, когда и насколько существуют "основания для пруденциальной озабоченности" - ссылаясь на эгоистические причины, по которым мы можем быть особенно озабочены тем, что происходит с определенными будущими субъектами в силу того, что они находятся в определенных отношениях с нашими нынешними "я" (отношения, которые, вероятно, включают формы каузальной непрерывности, а также психологическое сходство, и, возможно, различные другие более косвенные связи). Такие основания для пруденциальной озабоченности могут быть различной степени силы. В принципе, мы можем иметь их одновременно по отношению к нескольким будущим преемникам.
Поэтому давайте переформулируем дихотомический вопрос и спросим: В случае, когда мальчик за одну ночь превращается в мужчину, степень сохранения личностной идентичности гораздо меньше, чем в обычном случае, когда мальчик превращается в мужчину за одно или два десятилетия?
Думаю, скорее всего, да. Я не уверен, что это "намного" меньше; но кажется правдоподобным, что степень сохранения идентичности значительно снижается, когда метаморфоза происходит внезапно.
Почему так происходит? На ум приходит несколько возможных объяснений. (i) В нормальном детстве у человека могут быть различные проекты, которые он имеет возможность завершить; в случае резкого взросления
