возможностей для выбора. Я не могу предсказать, какие решения примут люди в ближайшие годы, но как историк я верю в возможность перемен. Один из главных уроков истории заключается в том, что многие вещи, которые мы считаем естественными и вечными, на самом деле являются рукотворными и изменчивыми. Однако признание того, что конфликты не являются неизбежными, не должно приводить нас к самоуспокоению. Как раз наоборот. Это накладывает на всех нас большую ответственность за правильный выбор. Это означает, что если человеческая цивилизация будет поглощена конфликтом, мы не сможем винить в этом ни законы природы, ни инопланетные технологии. Она также подразумевает, что если мы приложим усилия, то сможем создать лучший мир. Это не наивность, это реализм. Все старое когда-то было новым. Единственная константа истории - перемены.
Эпилог
В конце 2016 года, через несколько месяцев после победы AlphaGo над Ли Седолем и в то время, когда алгоритмы Facebook разжигали опасные расистские настроения в Мьянме, я опубликовал Homo Deus. Хотя мое академическое образование было связано со средневековой и ранней современной военной историей, и хотя у меня не было опыта в технических аспектах компьютерных наук, после публикации я внезапно обнаружил, что имею репутацию эксперта по ИИ. Это открыло мне двери в кабинеты ученых, предпринимателей и мировых лидеров, интересующихся ИИ, и позволило взглянуть на сложную динамику революции ИИ с привилегированной точки зрения.
Оказалось, что мой предыдущий опыт исследования таких тем, как английская стратегия в Столетней войне и изучение картин времен Тридцатилетней войны1 , не был совершенно не связан с этой новой областью. На самом деле, это дало мне довольно уникальный исторический взгляд на события, стремительно разворачивающиеся в лабораториях ИИ, офисах компаний, военных штабах и президентских дворцах. За последние восемь лет у меня было множество публичных и частных бесед об ИИ, в частности об опасностях, которые он несет, и с каждым годом тон становился все более актуальным. Разговоры, которые в 2016 году казались пустыми философскими рассуждениями о далеком будущем, к 2024 году приобрели целенаправленную интенсивность отделения неотложной помощи.
Я не политик и не бизнесмен, и у меня мало талантов для этих профессий. Но я верю, что понимание истории может быть полезным для лучшего понимания современных технологических, экономических и культурных событий - и, что более актуально, для изменения наших политических приоритетов. Политика - это в значительной степени вопрос приоритетов. Следует ли нам сократить бюджет на здравоохранение и увеличить расходы на оборону? Что является для нас более актуальной угрозой безопасности - терроризм или изменение климата? Сосредоточиться ли нам на возвращении утраченного участка исконной территории или сконцентрироваться на создании общей экономической зоны с соседями? Приоритеты определяют, как голосуют граждане, что волнует бизнесменов и как политики пытаются сделать себе имя. А приоритеты часто определяются нашим пониманием истории.
Хотя так называемые реалисты отвергают исторические нарративы как пропагандистские уловки, используемые для продвижения государственных интересов, на самом деле именно эти нарративы в первую очередь определяют государственные интересы. Как мы видели при обсуждении теории войны Клаузевица, не существует рационального способа определения конечных целей. Государственные интересы России, Израиля, Мьянмы или любой другой страны никогда не могут быть выведены из математического или физического уравнения; они всегда являются предполагаемой моралью исторического нарратива.
Поэтому неудивительно, что политики во всем мире тратят много времени и сил на пересказ исторических повествований. Упомянутый выше пример Владимира Путина вряд ли является исключительным в этом отношении. В 2005 году генеральный секретарь ООН Кофи Аннан провел свою первую встречу с генералом Таном Шве, тогдашним диктатором Мьянмы. Аннану посоветовали выступить первым, чтобы не дать генералу монополизировать беседу, которая должна была продлиться всего двадцать минут. Но Тан Шве выступил первым и почти час рассказывал об истории Мьянмы, практически не давая генеральному секретарю ООН возможности высказаться.2 В мае 2011 года премьер-министр Израиля Биньямин Нетаньяху совершил нечто подобное в Белом доме, когда встречался с президентом США Бараком Обамой. После краткого вступительного слова Обамы Нетаньяху прочитал президенту длинную лекцию об истории Израиля и еврейского народа, обращаясь с Обамой так, словно тот был его студентом.3 Циники могут возразить, что Тан Шве и Нетаньяху вряд ли заботились об исторических фактах и намеренно искажали их для достижения каких-то политических целей. Но эти политические цели сами по себе были продуктом глубоко укоренившихся убеждений относительно истории.
В моих собственных беседах об ИИ с политиками, а также с технологическими предпринимателями история часто становилась главной темой. Некоторые из моих собеседников рисовали радужную картину истории и, соответственно, с энтузиазмом относились к ИИ. Они утверждали, что больше информации всегда означало больше знаний и что, расширяя наши знания, каждая предыдущая информационная революция приносила человечеству огромную пользу. Разве революция в печати не привела к научной революции? Разве газеты и радио не привели к становлению современной демократии? То же самое, по их мнению, произойдет и с ИИ. Другие придерживались более тусклой точки зрения, но все же выражали надежду, что человечество как-нибудь справится с революцией ИИ, как мы справились с промышленной революцией.
Ни то, ни другое мнение не принесло мне утешения. По причинам, описанным в предыдущих главах, я нахожу подобные исторические сравнения с революцией в печати и промышленной революцией неприятными, особенно исходящими от людей, занимающих властные позиции, чье историческое видение формирует решения, определяющие наше будущее. Эти исторические сравнения недооценивают как беспрецедентный характер революции ИИ, так и негативные аспекты предыдущих революций. Непосредственными результатами революции печати стали охота на ведьм и религиозные войны наряду с научными открытиями, а газеты и радио использовались как тоталитарными режимами, так и демократическими государствами. Что касается промышленной революции, то адаптация к ней привела к таким катастрофическим экспериментам, как империализм и нацизм. Если революция ИИ приведет нас к подобным экспериментам, можем ли мы быть уверены, что нам снова удастся выкарабкаться?
Моя цель этой книги - дать более точную историческую перспективу революции ИИ. Эта революция все еще находится в зачаточном состоянии, и, как известно, понять судьбоносные события в реальном времени довольно сложно. Даже сейчас сложно оценить значение событий 2010-х годов, таких как победа AlphaGo или участие Facebook в кампании против рохинджа. Значение событий начала 2020-х годов еще более туманно. И все же, расширив наш кругозор и взглянув на то, как информационные сети развивались на протяжении тысячелетий, я считаю, что можно получить некоторое представление о том, что мы переживаем сегодня.
Один из уроков заключается в том,
