До недавнего времени никто не признавал эволюционных возражений против создания цифровой реплики человеческого мозга, но вот логические основания описанных ниже математических и вычислительных возражений до некоторой степени основаны на работах 1930-х годов самого Тьюринга и другого гения – австрийского математика и логика Курта Гёделя. Как считал Гёдель, его знаменитые теоремы о неполноте четко и ясно указывали, что человеческий разум преодолевает ограничения машины Тьюринга, а алгоритмические схемы не могут полностью описать возможности человеческого мозга. Как писал Гёдель, «мои теоремы лишь показывают, что механизация математики, т. е. устранение разума и абстрактных сущностей, невозможна для установления четких основ. Я не показал, что существуют неразрешимые для человеческого мозга вопросы – лишь то, что не существует машин, которые могут разрешить все вопросы теории чисел».
В своей знаменитой Гиббсовской лекции [15] Гёдель также заметил, что его теоремы о неполноте подразумевают, что человеческий мозг намного опережает мощность машины Тьюринга: на самом деле пределы формальной системы не влияют на человеческий мозг, поскольку центральная нервная система может генерировать и устанавливать истину, не доказуемую соответствующей формальной системой, т. е. алгоритмом машины Тьюринга. Первая теорема о неполноте в формулировке Роджера Пенроуза проясняет этот момент: «Если вы считаете, что конкретная формальная система непротиворечива, вы также должны признать, что в этой системе есть истинные утверждения, справедливость которых не может быть доказана формальной системой».
Роджер Пенроуз настаивал, что аргументы Гёделя ясно указывают на некоторое ограничение цифровых компьютеров, не существующее для человеческого разума. Поддерживая позицию Пенроуза, Сельмер Брингсйорд и Константин Аркудас представили очень убедительные доказательства в подтверждение тезиса Гёделя, показав, что человеческий разум работает как некий «гиперкомпьютер», поскольку человеческий мозг имеет такие способности (например, может признавать истинность какого-то утверждения), которые нельзя симулировать с помощью алгоритма на машине Тьюринга [16].
Непосредственный вывод из всех этих утверждений ясен: полный репертуар человеческих ментальных активностей не сводится к цифровым программным алгоритмам. Эти сущности не поддаются вычислению. Соответственно, главный принцип гипотезы сингулярности полностью опровергается тем простым фактом, что цифровые машины никогда не справятся с тем, что называют аргументом Гёделя.
Для выдвижения соответствующих доводов не обязательно опираться только на логику. В книге «Релятивистский мозг» мы с Рональдом перечислили математические и вычислительные препятствия для принятия тезиса о скорой победе цифровых машин над человеческим мозгом. Ниже представлен краткий перечень наших доводов.
Цифровая симуляция основана на многих предвзятостях и предположениях, таких как способ подачи информации. Кроме того, на этом пути нужно преодолеть множество различных препятствий. Исходные предположения могут в конце полностью обесценить саму модель. Например, давайте представим себе любую физическую систему S, эволюцию которой мы хотим симулировать. Первая аппроксимация состоит в том, чтобы назвать S изолированной системой. При соприкосновении с реальной жизнью выясняется, что биологические системы не могут быть изолированными от окружающей среды без значительной потери функциональности. В частности, если S – живая система, в каждый конкретный момент времени ее структура полностью зависит от обмена веществом и информацией с окружающей средой. S – интегрированная система. Следовательно, если рассматривать ее в качестве изолированной системы, это может кардинально отклонить симуляцию от реальности, особенно если речь идет о такой живой системе, как мозг. В частности, это ограничение обесценивает любые попытки построить реалистичную модель мозга живой взрослой мыши на основании данных, полученных на таких экспериментальных образцах, как срезы мозга молодых мышей. Такие экспериментальные образцы значительно снижают истинную сложность исходной системы и не учитывают ее взаимодействие с окружающей средой. Распространение результатов, полученных на основании редуцированной модели, на реальное поведение живого мозга просто бессмысленно, даже если модель создает некое тривиальное эмерджентное поведение, такое как осцилляции активности нейронов.
И это только первая из ряда важнейших проблем в применении классического редукционистского подхода к пониманию комплексных систем, таких как человеческий мозг. Сводя систему ко все более мелким модулям, мы фактически разрушаем ядро операционной структуры, позволяющей системе генерировать ее уникальный уровень сложности. А без возможности отражать внутреннюю сложность системы оставшиеся качества становятся бесполезны для объяснения того, как в реальности работает система в целом.
На следующем этапе компьютерной симуляции производят отбор данных, измеренных непосредственно для системы S, с осознанием того, что нам не известны многие другие данные и вычисления на разных уровнях наблюдения за системой. По желанию или из-за отсутствия иных вариантов мы обычно считаем все эти данные несущественными для данной симуляции. Но в случае сложных систем, таких как мозг, нельзя быть уверенным, что какой-то другой уровень наблюдения, скажем квантовое описание системы, действительно не имеет значения. Таким образом, мы, безусловно, используем для нашей симуляции весьма неполный набор данных о системе S.
После проведения наблюдений или измерения каких-то естественных проявлений системы S мы пытаемся подобрать математическую формулу, которая могла бы соответствовать выбранным данным. Как правило, эта математическая формула определяется набором зависимых от времени дифференциальных уравнений. Дифференциальные уравнения были разработаны в первую очередь для применения в физике и совсем не обязательно применимы к биологическим системам. Более того, важно подчеркнуть, что в большинстве случаев эти математические формулы сами по себе уже являются аппроксимациями, не отражающими поведение природной системы на всех ее многочисленных уровнях организации. Опять-таки большинство физических процессов в лучшем случае лишь аппроксимируются математической функцией. Если вас это удивляет, знайте, что вы не одиноки. Большинство людей, которые верят в возможность воспроизведения всех природных явлений во вселенной с помощью компьютерных симуляций, к моему изумлению, не учитывают этот простой факт.
Далее нужно попытаться свести выбранную математическую формулу к алгоритму, который можно ввести в цифровую машину. Следовательно, компьютерная симуляция – это попытка имитировать математическое отображение ряда наблюдений за природным явлением, а вовсе не само природное явление как таковое. Поскольку эволюция биологической системы не подчиняется бинарной логике, используемой в цифровых компьютерах, результат компьютерной симуляции во многих случаях может эволюционировать совсем не так, как само природное явление. Это особенно справедливо в тех случаях, когда мы рассматриваем сложные адаптивные системы, эмерджентные свойства которых важны для правильного функционирования системы в целом. Таким образом, наша алгоритмическая аппроксимация может быстро отклониться от реального поведения природной системы, что заведомо приведет к бессмысленному результату.
Например, большинство моделей, которые, как утверждается, создают искусственную жизнь, используют комбинации разных алгоритмических методов – от объектно-ориентированного и процессно-ориентированного программирования до итеративного подхода – для имитации человеческого поведения. Как считает специалист в области эволюции и вычислительной техники Питер Дж. Бентли, это плохая стратегия, поскольку «не существует логически согласованного метода для корреляции этих программных трюков с биологическими сущностями. И поэтому данный подход приводит к туманным и в целом ненадежным моделям, основанным на субъективных метафорах и желании обеспечить биологическую значимость».
