научившуюся побеждать в шахматы, го и сёги исключительно путем игры против себя самой. Она не получила от человека никаких навыков или информации, кроме правил игры. Всего через девять часов, в течение которых система сыграла с собой 44 миллиона партий в шахматы, она обыгрывала самую сильную программу в мире Stockfish. Когда с ней играли гроссмейстеры, они поражались ее чуждой, незнакомой тактике. Больше ста лет шахматные мастера придерживались единой точки зрения относительно основных идей и стратегий игры, например об относительной ценности фигур и позиций на доске. AlphaZero делала непривычные ходы, явно предпочитая мобильность позиционному преимуществу и будучи всегда готовой к жертвам. Казалось, она создала новую стратегию шахматной игры.
Проблема заключалась только в том, что это не так.
Система с искусственным интеллектом не способна создать представление о чем-либо. Она не может строить ментальные модели. Она не может ни обобщать, ни объяснять. AlphaZero представляет собой черный ящик как для нас, так и для себя самой. Люди, а не искусственный интеллект были способны взглянуть на ходы и перейти к концепциям «позиции на доске» или «жертвы». Люди дают фрейм действиям AlphaZero, делая их объяснимыми и применяя их обобщенным образом. Люди становятся умнее, поскольку мы способны дать абстрактное выражение достижениям искусственного интеллекта. Оценить урок и применить его в будущем – вот то, чего искусственный интеллект сам по себе не может.
Как рационалисты, так и сторонники чувств и интуиции совершенно верно чувствуют некоторое уникальное свойство, присущее человеческому сознанию. Но оба пути заканчиваются тупиком. Ни один из них не дает удовлетворительного ответа на трудные вопросы, стоящие перед нашей цивилизацией. Но и от их синтеза мы вряд ли можем ожидать многого. Попытка слить воедино два подхода, построенных на ущербных основаниях, в лучшем случае приведет к сохранению хрупкой напряженности между ними без всякой надежды на действительный прогресс.
В этой ситуации критически важен вывод, что наш выбор не сводится к двум вариантам. Не обязательно выбирать между расчеловечивающей сингулярностью и цунами популистского террора – или пытаться слить их в коктейль сомнительной пригодности. В нашем распоряжении есть другая стратегия, иная человеческая способность, на которую до настоящего момента не обращали внимания: фрейминг. Умение применять, оттачивать и заново создавать ментальные модели дает нам инструмент для решения наших проблем без того, чтобы полагаться на машину или принимать волю толпы.
В результате мы возвращаемся к Регине Барзилай. Мы обнаружили, что находимся на распутье. Перед нами стоят проблемы гигантского масштаба. Как и в случае с антибиотиками, многие наши уязвимости мы создали сами, они стали последствиями принятых решений, не замеченных альтернатив, не совершенных действий. Мы сами завели себя туда, где находимся. Хорошая новость заключается в том, что мы можем и вывести себя оттуда. Но для этого нужно научиться воспринимать мир по-другому.
Внешнее рождается из внутреннего
Существует проект под названием Our World in Data («Наш мир в данных»), который реализуется группой сотрудников Оксфордского университета. Как можно заключить из его названия, он строит картину мира, данную через призму информации. Статистика детской смертности? Пожалуйста. Мировой ВВП? Тоже имеется. Проектом восхищается Билл Гейтс, который время от времени воспроизводит его графики в своем Twitter и чей фонд поддерживает его работу. И судя по разноцветным кривым и гистограммам, наш мир сегодня прекрасен как никогда.
Если судить почти по любому численному показателю, мир, несомненно, движется к лучшему. Войн и болезней стало меньше, грамотных больше, вода чище, страны богаче, люди счастливее, жизнь дольше. Covid-19, конечно, оставит след на некоторых кривых, но лишь временный, посмотрите в сторону более отдаленного будущего, и вы увидите, как течение времени и прогресс загладят эту ямку на графиках.
Ключевую роль во всех этих изменениях к лучшему сыграла эволюция человеческого мышления. Прежде чем что-то становится лучше в действительности, происходит трансформация мышления. Все внешнее рождается из внутреннего. Мы подвергаем наш мир фреймингу и рефреймингу, и цивилизация движется вперед.
Но этот солнечный оптимизм может оказаться неоправданным. Его апологеты всего лишь экстраполируют будущее развитие событий, а тревожные симптомы в их аналитике замаскированы. Человеческому прогрессу присущ порок, и он заключается в том, что именно плоды нашего труда всегда могут оказаться источником нашего разрушения. Будь то гонка высокотехнологичных вооружений, более жаркий климат или рост числа деклассированных элементов во всем мире – в любом случае, чтобы адекватно отреагировать, нам нужно усовершенствовать навыки фрейминга.
Книжные полки прогибаются под тяжестью томов, прославляющих прогресс человечества. В то же время богатый, бессмертный и обладающий могущественным мозгом человек, описанный в книге Homo Deus Юваля Ноя Харари [6], со временем будет осмеян как богатый, живущий в безопасности и счастливый «последний человек» из «Конца истории» Фрэнсиса Фукуямы. Более честный и ответственный взгляд на мир заключается в том, что положение вещей не становится проще – оно усложняется. Самые трудные проблемы человечества не позади нас, а впереди.
В прошлом большинство проблем касались выживания индивида или сообщества, но не планеты в целом, и у многих из этих проблем были очевидные решения. При голоде мы занимаемся охотой или собирательством. Если нам нужно убежище, мы строим дом. Если идет война, мы собираем армию. Часто существовал готовый фрейм, который можно было применить сразу.
Но по мере роста наших навыков фрейминга этот успех создал свою слабость: веру в единственно истинный фрейм. Человечество создавало или силой внедряло подобные фреймы в бессчетном числе случаев – от испанской инквизиции до советского коллективизма. При этом мы извлекли удивительно мало уроков из собственных поражений. Мы по-прежнему подвержены опасности монолитного мышления, то есть готовы убеждать себя, что причина наших прошлых неудач заключается в конкретном фрейме, а не в его единственности.
Именно поэтому текущий момент в истории столь опасен. Судьба человечества зависит от нашей способности переосмыслить стоящие перед ним проблемы. Как природные кризисы (от изменения климата до пандемии), так и кризисы самого человечества (от новых форм племенного мышления до жестокого угнетения) требуют не когнитивного «прыжка веры», а удвоения усилий в том, с чем человечество всегда хорошо справлялось: дать свободу воображению в рамках определенных ограничений, создавая таким образом новые решения и оценивая их долгосрочные последствия.
Мы живем в век разделения и парадоксов: богатейшей благотворительности и каждодневной тирании, науки и антинауки, фактов и фейковых новостей. Из трущоб можно наблюдать Международную космическую станцию, ракеты полетят колонизировать другие планеты, детей мигрантов содержат в клетках. Первобытное и трансчеловеческое, собаки и боги [7].
Обычно виды вымирают, потому что не могут приспособиться к изменившимся обстоятельствам. Человек может оказаться первым видом, обладавшим всем необходимым для приспособления, но не воспользовавшийся этим – не потому,
