мировое правительство - тогда мы должны будем спросить о силах, контролирующих этот механизм: как они контролируются? Соревнуются ли различные фракции, идеологии и особые интересы за власть над румпелем? Какая вредная или опасная динамика может возникнуть в результате этой конкуренции?
Или предположим, что мы передали контроль над Землей в руки одного человека или какого-то другого единого субъекта? Нетрудно представить, что в этом случае может пойти не так.
В итоге получается, что если мы хотим постулировать утопическое состояние - а мы хотим это сделать, чтобы исследовать увлекательные проблемы цели и ценности, которые возникнут в таком состоянии, - то недостаточно предусмотреть значительный рост экономической производительности. Это может быть необходимым условием, но точно не достаточным. Недостаточно также, если мы предусмотрим повсеместный технологический прогресс. Важно, чтобы и в социальной, и в политической сферах все шло своим чередом. Без прогресса в том, как наша цивилизация управляет собой, рост нашей материальной мощи может легко ухудшить ситуацию вместо того, чтобы улучшить; и даже если утопическое состояние будет достигнуто, оно, скорее всего, будет нестабильным и недолговечным, если, как минимум, не будут решены самые серьезные из наших глобальных проблем координации.
-У нас есть еще один вопрос.
Какой-то студент: Не стоит складывать все яйца в одну корзину. Не лучше ли регулировать эти вещи на местном уровне? В каждой стране могли бы быть свои правила.
Бостром: Обычно это не работает при наличии глобальных внешних эффектов. Если одна страна в одностороннем порядке разоружится, она подвергнет себя риску оказаться под господством какой-нибудь другой страны, наращивающей свои вооруженные силы. Или, в случае проблемы перенаселения, которую мы обсуждали, экстерналии принимают форму моральной озабоченности: если одна страна попадет в мальтузианскую ловушку, это будет проблемой для других стран, поскольку они заботятся о благосостоянии людей, которые там живут.
В этом, кстати, заключается одна из асимметрий между проблемой перенаселения и проблемой недонаселения: в первом случае существуют люди, которым плохо живется, в то время как во втором случае не существует людей, которым было бы хорошо жить, если бы они родились. Нас чаще беспокоит первое, чем второе. Поэтому может показаться, что перенаселение с большей вероятностью будет иметь моральные внешние последствия.
Еще одна асимметрия между перенаселением и недонаселением заключается в том, что первое, но не второе, является эволюционным равновесием. Если не регулировать воспроизводство, можно ожидать, что рано или поздно появятся более плодовитые варианты, которые будут размножаться до тех пор, пока не восстановится мальтузианское состояние.
Можно представить, что культурные или технологические инновации на некоторое время избавят нас от этого призрака. Возможно, компьютерные игры станут настолько захватывающими, что мы не будем особо утруждать себя воспроизводством. Но, предположительно, некоторые группы решат завести детей. Возможно, они решат, что компьютерные игры - это табу. Эти группы или те из них, которые достигнут достаточно низкого уровня оттока людей из группы, станут наследниками будущего, и именно их поведение и ценности будут определять долгосрочную динамику численности населения. Таким образом, население Земли снова начнет расти, и Мальтус будет оправдан.
Переход к ИИ не обязательно устранит эту динамику. Биологические человеческие популяции могут продолжать расти по экспоненте, и, конечно, популяции цифровых разумов также могут расти по экспоненте и с еще более коротким временем удвоения. Похоже, что в конечном итоге только глобальная координация может решить эту проблему, так же как организму нужны средства защиты от рака, которые не зависят полностью от доброты клеток. То же самое можно сказать и о проблеме войны, и о других проблемах, которые могут возникнуть в результате ненаправленной конкуренции и оптимизации.
Экономия на масштабе
Чтобы устойчиво повышать уровень жизни животных в дикой природе и в нашем обществе, необходимо контролировать численность популяции. Вы можете помочь голодным голубям, покормив их. В следующем году голубей будет еще больше, а в следующем - еще больше. Вы не можете обогнать это. Но если число вылупляющихся голубей будет ограничено числом умирающих голубей, то все голуби смогут стабильно существовать на уровне выше прожиточного минимума.
То, что легко увидеть в случае с голубями, сложнее увидеть в случае с людьми по нескольким причинам (помимо культурно-специфических слепых пятен):
Цикл человеческих поколений длиннее, поэтому динамика разворачивается в более широком временном масштабе, что делает ее более сложной для восприятия.
Человеческая культура дает человеческим обществам больше степеней свободы, чем голубиным сообществам. И оказывается, что поначалу культурные явления - демографический переход - тормозят размножение человека, когда условия становятся изобильными. Культурному и генетическому отбору может потребоваться много поколений, чтобы преодолеть это первоначальное препятствие.
Экономическая производительность человека демонстрирует гораздо большую экономию от масштаба. Голубям выгодно быть частью стаи или колонии, потому что они могут узнать о местах и методах добычи корма и разделить труд по наблюдению за хищниками. Люди же могут учиться друг у друга практически неограниченному количеству знаний по широкому спектру экономически значимых предметов. Люди также способны извлекать гораздо больше выгоды из разделения труда. Эти огромные количественные различия в экономии от масштаба для людей и голубей скрывают основное качественное сходство: в конечном итоге, если технология будет стагнировать, земля должна стать ограничивающим фактором производства.
Первый из них очевиден, а второй мы уже обсудили. Я хочу немного остановиться на третьем.
Масштаб важен для экономики. На самом деле мы можем убедиться в важности масштаба уже на примере некоторых базовых физических процессов. Например, объем контейнера растет быстрее, чем площадь его стенки. Этот простой геометрический факт, известный как "закон квадратного куба", имеет множество последствий. Если вы хотите хранить какое-то количество вещей, то дешевле (с точки зрения количества необходимого материала) хранить их в одном большом контейнере, чем во множестве маленьких. Точно так же толстые трубы более эффективны, чем тонкие. Так же как и большие корабли: потери от сопротивления воды меньше на единицу груза для больших кораблей. Точно так же большие печи тратят меньше тепла. И так далее. Таким образом, масштабное производство ведет к снижению удельных затрат.
Более того, большие социальные масштабы позволяют повысить специализацию, что повышает эффективность. Рассмотрим глобальную цепочку поставок, необходимую для производства передового микропроцессора, и множество видов специализированных знаний и оборудования, которые в ней задействованы. Чтобы поддерживать все эти постоянные расходы, необходимо иметь большую клиентскую базу. Население планеты в сто миллионов человек может оказаться недостаточным для того, чтобы производство всех необходимых ресурсов стало возможным и выгодным.
Еще одно важное следствие масштаба заключается в том, что затраты на производство неисключительных товаров, таких как идеи, могут быть амортизированы
