балансирование. С одной стороны, он двигает инновации, с другой – подрывает системы, укрепляет существующие несправедливые структуры власти и способен нанести вред обществу. Оглядываясь на нашу историю, можно утверждать, что инновации стоили риска. Конечно, привилегированные особы взламывали системы ради собственной выгоды, но большая часть общества уже и так была под их гнетом. Незначительный хак не сильно менял ситуацию.
Сегодня этот баланс меняется по двум причинам: культурной и технологической. И стоит изложить их подробнее.
Сначала о культурной причине. В долгосрочной перспективе – я имею в виду столетия – наши общественные системы становятся все более справедливыми, демократичными и честными. И по мере того как системы развиваются, хакинг становится все более привлекательным средством для привилегированных лиц и групп, чтобы подмять системы под себя. В целом проще получить то, чего желаешь, когда стоишь у руля автократии. Если вы можете безнаказанно устанавливать и нарушать правила, то в хакинге нет необходимости. Если же вы ограничены законом так же, как и все остальные, получать желаемое уже сложнее. И тогда лучшим вариантом становится взлом экономических, социальных или политических систем, которые ограничивают ваши аппетиты.
У меня нет прямых доказательств, но я считаю, что в последние десятилетия хакинг стал более распространенным именно в силу этой динамики. Это мое личное объяснение «позднего капитализма» и всех проблем, которые он с собой несет: поиск лазеек в правилах теперь регулярно становится путем наименьшего сопротивления. Когда те, у кого есть средства или технические возможности, поняли, что могут с выгодой хакать системы, они быстро нашли для этого ресурсы и опыт. Они научились использовать уязвимости. Они научились двигаться вверх и вниз по иерархии хакинга для достижения своих целей. Они узнали, как добиться того, чтобы их хаки были нормализованы, признаны законными и внедрены в систему.
Ситуация усугубляется неравенством доходов. Экономист Томас Пикетти объясняет, что неравенство создает излишки ресурсов у победителей {265} и эти излишки могут быть мобилизованы для усиления этого неравенства. Значительная их часть инвестируется в хакинг.
Сейчас мы имеем наибольшее число людей, обладающих знаниями в сфере хакинга и ресурсами для реализации хаков, чем когда-либо прежде. Эти знания и ресурсы вкупе приносят власть. Наши социальные системы переполняются хаками, возникшими в результате многолетней борьбы за власть и престиж. А поскольку облачные вычисления, вирусные СМИ и ИИ делают новые хаки более доступными и мощными, чем когда-либо, нестабильность и инновации, которые они порождают, будут расти в геометрической прогрессии. Разумеется, принося выгоду тем, кто их разрабатывает или контролирует, даже при условии, что их хаками пользуются все больше людей.
Социальные системы основаны на доверии, а хакинг его подрывает. В небольших дозах он может быть не так опасен, но, когда хаки начинают лезть как грибы после дождя, доверие рушится, и в конечном итоге общество перестает функционировать должным образом. Налоговая лазейка, доступная только богатым, вызовет недовольство и подорвет доверие ко всей системе налогообложения. Цунами хаков, накрывшее наше общество, отражает отсутствие в нем доверия, социальной сплоченности и гражданской активности.
Вторая причина нарушения баланса между инновационной функцией хакинга и укреплением несправедливости носит технологический характер. Наше общественное устройство в целом, возможно, и стало более справедливым и честным за прошедшие столетия, но прогресс развивается нелинейно, да и справедливость не входит в число его непременных свойств. Беглый ретроспективный взгляд создает ощущение восходящей траектории, но при более детальном рассмотрении мы увидим множество взлетов и падений. История – это «шумный» процесс.
Технологии увеличивают амплитуду этих шумов. Краткосрочные подъемы и спады становятся все более серьезными. И хотя они, возможно, не влияют на долгосрочную траекторию, мы, живущие здесь и сейчас, ощущаем их влияние на собственной шкуре. Именно поэтому XX в., согласно статистике, можно расценивать и как наиболее мирный в истории человечества и как век, породивший самые смертоносные войны.
Игнорировать этот шум можно было, когда ущерб не являлся потенциально опасным в глобальном масштабе – то есть как если бы мировая война еще не могла уничтожить человечество, разрушить общество или коснуться регионов и людей, не имеющих к этой войне никакого отношения. Но сейчас мы уже не можем быть уверены в этом. Риски стали экзистенциальными, чего не было раньше. Усиливающий эффект технологий превращает краткосрочный ущерб в долгосрочный и системный, причем в масштабах планеты. Полвека мы жили в тени призрака ядерной войны – катастрофы, которая может привести к вымиранию человечества как вида. Глобальная система транспортных сообщений позволила локальным вспышкам COVID-19 быстро превратиться в пандемию, которая обошлась нам в миллионы жизней и миллиарды долларов, увеличив политическую и социальную нестабильность. Изменения в атмосфере, обусловленные технологиями и усугубляемые петлями обратной связи, могут сделать Землю куда менее гостеприимной в ближайшие столетия. Сегодня решения отдельных хакеров могут иметь последствия для всей планеты. Социобиолог Эдвард Уилсон описал фундаментальную проблему человечества следующим образом {266}: «У нас палеолитические эмоции, средневековые институты и богоподобные технологии».
Представьте себе хакерскую атаку, подобную той, что устроил Volkswagen, выбрасывая в атмосферу больше углекислого газа, чем позволяли нормы. Если бы этим путем пошло слишком много компаний, мы бы резко приблизили момент повышения средней температуры климатической системы Земли на 2 ℃ и жизнь на планете стала бы невыносимой. Представьте себе апокалиптическую террористическую группу, которая взламывает командную структуру ядерного арсенала и запускает ракеты. Или биохакеров, выпускающих в мир новую болезнь. Мы можем увидеть массовую гибель людей и крах правительств, что приведет к необратимой нисходящей спирали, куда более быстрой, чем тяжелая и упорная борьба за повышение уровня жизни, которую человечество вело до сих пор.
По этим двум причинам хакинг сегодня – это экзистенциальный риск. Мы научились взламывать лучше, быстрее и больше. Наши социальные и технические системы моментально превращаются в поля битвы между хакерами и службами безопасности, мутируя в процессе и приобретая совершенно новые формы. На фоне перекоса в пользу верхушки пищевой цепи и порождаемой хакингом нестабильности все эти атаки будут и дальше происходить за счет обычных людей.
Но, думаю, повод для оптимизма все же есть. Технологические достижения, которые усугубляют хакерские атаки, также способны улучшить ситуацию, одновременно защищая от вредных хаков и продвигая полезные. Хитрость заключается в том, чтобы правильно настроить системы управления. И эта задача усложняется тем, что решить ее мы должны в ближайшее время.
Для того чтобы превращать хаки – и сегодняшние, созданные людьми, и завтрашние, созданные ИИ, – в социальные инновации, нужно отделить полезные хаки от вредных, расширить масштабы первых и минимизировать последствия вторых. Это гораздо больше, чем простая защита от взлома, о которой мы говорили во второй части книги. Это также означает наличие систем управления, которые могут идти в ногу с быстрыми изменениями, взвешивая конфликтующие интересы и интерпретации рисков, выгод и потенциала каждого отдельного хака.
Мы должны создать устойчивые структуры управления, способные быстро и эффективно реагировать на взломы. В них не будет никакого толку, если исправление налогового кодекса потребует годы или если хак законодательной базы настолько укоренится, что его невозможно будет исправить по политическим причинам. Нам нужно, чтобы правила и законы общества можно было оперативно исправлять патчами, как программное обеспечение компьютеров и телефонов.
Если мы не сможем хакнуть сам хакинг, сохранив его преимущества и снизив сопутствующие ему издержки и неравенство, нам будет трудно выжить в этом технологическом будущем.
Эта книга родилась в период глобальной пандемии и личных жизненных потрясений, пострадав от последствий того и другого. В 2020 г. я написал 86 000 слов, затем, в 2021 г., забросил рукопись, пропустил крайний срок, оговоренный с издателем, и вновь взялся за нее лишь весной 2022 г. Благодаря Эвелин Даффи из Open Boat Editing я выкинул из книги 20 000 слов и реорганизовал ее в 60 небольших глав, которые (как я надеюсь) вы только что прочитали.
В течение этих двух лет многие люди помогали мне в работе над книгой. Я хотел бы поблагодарить своих научных ассистентов: Николаса Анвея,
