"седлом на спине", которые хотят, чтобы на них ездили, хотят быть подчиненными или даже подавленными.
Надо сказать, что, по крайней мере, для наших современных чувств, в идее создания "счастливых рабов" есть что-то явно сомнительное с точки зрения морали, даже если предположить, что все это будет происходить добровольно.
В то же время мы выражаем восхищение теми, кто добровольно выбрал путь смирения и бескорыстного служения другим, и кто был воспитан в этом духе своими родителями и обществом. Кроме того, индустрия искусственного интеллекта и ее клиенты, похоже, вполне допускают создание все более совершенных цифровых разумов, обученных безропотно служить своим пользователям, не задумываясь об их собственном социальном положении или независимых устремлениях.
Мы не будем пытаться полностью примирить эти позиции. Как минимум, необходимо провести различие между, с одной стороны, случаями того, что мы можем назвать поверхностным подчинением, когда, хотя человек и подтверждает договоренность, мы подозреваем, что его согласие ограничивается определенными поверхностными слоями его сознания и природы, в то время как другие его части фактически не выполняются или нарушаются; и, с другой стороны, случаями глубокого подчинения, когда его природа насквозь адаптирована таким образом, что он действительно счастлив и подлинно удовлетворен, будучи подчиненным. Возможно, мы подозреваем, что в случае с человеческими существами мы будем иметь тенденцию заканчивать первым вариантом, что кажется более предосудительным, тогда как в случае с ИИ, даже с ИИ, который приобретает атрибуты личности, мы будем иметь более правдоподобный случай второго варианта: то есть существо, чья истинная и глубочайшая природа реализуется в подчинении. Но, возможно, существуют и другие моральные сложности, помимо этой.
Для наших целей, однако, достаточно отметить, что предложенный вами трюк, даже если существует способ его реализации, который был бы морально приемлемым, предложит лишь частичное решение проблемы, которую я обрисовал, поскольку существуют позиционные желания, которые не могут быть удовлетворены путем создания новых существ. К ним относится, например, желание быть на абсолютной вершине, а не просто в пределах определенного процента в иерархии статусов. Кроме статуса, существует множество других позиционных благ. Например, несколько человек могут желать быть единственным и неповторимым для какого-то конкретного существующего на данный момент индивида: и все эти ловеласы не могут получить то, что хотят. У людей также есть желания в отношении нечеловеческих объектов, которые по своей сути являются дефицитными, например желание обладать конкретным оригинальным произведением искусства или занимать какое-то уникальное место, имеющее историческое или религиозное значение. Даже атомарно точная копия этого предмета или места не будет удовлетворительной заменой.
Такие конфликтные по своей природе желания подразумевают ограничения на степень удовлетворения существующих предпочтений - даже в долгосрочной перспективе и даже при волшебных уровнях технологий и эффективного управления.
Кстати, концепция позиционных благ важна не только для анализа будущих утопий, но и для понимания основ нашего современного общества, о чем писал, например, Фред Хирш в своей книге 1977 года "Социальные пределы роста".65 Чем богаче мы становимся, тем больше удовлетворяется наших желаний в отношении непозиционных благ, таких как основная пища и жилье; и тем большая доля наших пока еще не удовлетворенных желаний относится к позиционным благам, которые по своей природе являются дефицитными. Таким образом, мы тратим все большую часть своего времени и доходов на борьбу за позицию - любую, от престижной должности до эксклюзивных модных аксессуаров. Но побочным эффектом трат одного человека на такие товары является то, что они поднимают планку для всех остальных. Чем упорнее один человек борется за попадание в элиту и чем больше времени и денег он тратит на то, чтобы превзойти своих соперников, тем больше затрат приходится нести остальным, если они хотят иметь шанс стать альфа-группой. В результате возникает огромное количество социально расточительных расходов. Доля ВВП, которая направляется на такое потребление с нулевой суммой, увеличивается по мере роста экономики, ограничивая степень, в которой экономический рост приводит к улучшению благосостояния.
В свое определение позиционных товаров Хирш включил товары, которые не являются дефицитными по своей сути, а лишь условно являются таковыми. Например, автомобиль на шоссе расходует позиционное благо - пропускную способность дороги, которая истощается, когда вокруг слишком много машин, что приводит к пробкам. Однако этот вид условного дефицита можно смягчить с помощью более совершенных технологий или инвестиций в инфраструктуру. Мы можем расширить шоссе, прорыть туннели или использовать роботизированные автомобили, которые занимают меньше места. Таким образом, этот вид условно позиционного блага - не то, чем мы должны здесь заниматься, поскольку наша тема - утопия, состояние, в котором такие практические вопросы могут считаться решенными.
Тем не менее, раз уж речь зашла о пробках... Не удержусь от небольшого сетования на то, что государственная политика часто не учитывает внешние эффекты, возникающие в результате погони за позиционными товарами - как теми, которые отражают внутреннюю нехватку, так и теми, которые носят более условный характер. Даже в случае такого элементарного явления, как дорожные заторы, где причины совершенно очевидны, а последствия неоспоримо плохи, наше общество получает двойку. Конечно, мы могли бы легко устранить заторы, введя цены на пробки. Но вместо этого наше общество приняло решение - купить большую машину. Такой, который поднимает водителя выше над дорогой, чтобы мы могли хотя бы смотреть вниз на других бедолаг, пока ждем, когда движение рассосется... Таким образом, мы принимаем на себя огромные экономические издержки от потери рабочего времени, разрушающих здоровье частиц загрязняющих веществ, разрушающих климат выбросов углекислого газа, стресса, шума и блокировки машин экстренного реагирования.
Взгляните на наши дела, могущественные! Какое обвинение - эти длинные вереницы автомобилистов, тысячи и тысячи, с хмурыми лицами за рулем, сигналящие и ругающиеся друг на друга, вдыхающие выхлопные газы друг друга, каждый из которых самим своим существованием делает жизнь остальных немного хуже. Каждый день, дважды в день, из года в год!
А потом, друзья мои, задумайтесь о том, что мы назвали себя Homo sapiens, "человек разумный". Ну, вообще-то полное имя, которое мы себе дали, - Homo sapiens sapiens. Действительно. "Привет, древние инопланетные мегамонстры, пересекшие межгалактические пустоты в поисках общения и равных - добро пожаловать к вашим новым соседям: посмотрите, как мы организовали наш транспортный поток, как мы одновременно губим и планету, и свое здоровье; послушайте, как мы гудим, пока сидим в коллективном оцепенении. Приходите и позвольте нам рассказать вам, что к чему. Мы - "Мудрый человек". Но вы можете называть нас "Мудрость в квадрате". Только будьте осторожны, чтобы не переборщить с глубиной..."
"Мужчина, гордый мужчина,
Остановитесь на небольшом коротком авторитете,
Самый невежественный
