Как насчет калькулятора, запрограммированного на вычисление десятичной дроби корня из двух? Или шахматной программы? Можно сказать, что здесь мы имеем дело всего лишь с усложненными «шариками,» катящимися с усложненных горок. На деле, аргументы против выбора здесь еще сильнее, чем в предыдущем случае. Если вы попробуете повторить эксперимент с шариком, то, без сомнения, получите иные результаты: шарик покатится по новой дорожке. В то же время, сколько бы раз вы не включали калькулятор, вычисляющий квадратный корень из двух, результат всегда будет одинаковым. Кажется, что шарик выбирает иной путь, как бы аккуратно вы ни повторяли условия первого спуска, в то время как программа действует совершенно одинаково каждый раз.
В случае сложных шахматных программ есть несколько возможностей. Если вы начнете вторую партию теми же ходами, что и первую, некоторые программы будут просто повторять свои ходы. Незаметно, чтобы они чему-нибудь учились или стремились к разнообразию. Другие программы имеют устройства, обеспечивающие некоторое разнообразие, но это делается чисто механически, а не по желанию программы. Параметры такой программы можно вернуть в начальное состояние, словно она играет в первый раз, и она опять будет повторять точно те же ходы. Существуют также программы, которые учатся на своих ошибках и меняют стратегию в зависимости от результата партии. Они не будут повторять ходов, если в первый раз эти ходы привели к проигрышу. Разумеется, и здесь можно «перевести часы назад», стерев все изменения в памяти, представляющие новое знание, так же, как можно было вернуть к нулю генератор произвольных чисел в предыдущем случае, — однако это было бы довольно недружелюбным поступком по отношению к машине. Кроме того, можно ли считать, что вы смогли бы изменить любое из ваших прошлых решений, если бы каждая деталь — включая, разумеется, ваш мозг — была бы возвращена к начальному состоянию их принятия?
Но вернемся к вопросу о том, применимо ли сюда слово «выбор». Если программы — не более, чем «сложные шарики, скатывающиеся со сложных горок», то есть ли у них выбор? Конечно, ответ всегда будет субъективен, но я бы сказал, что сюда подходят те же соображения, как и в случае шарика. Однако должен добавить, что использование слова «выбор» здесь весьма привлекательно, хотя это слово и является только удобным сокращением. То, что шахматная программа, в отличие от шарика, заглядывает вперед и выбирает одну из ветвей сложного дерева возможностей, делает ее более похожей на одушевленное существо, чем на программу, вычисляющую квадратный корень из двойки. И все же здесь еще нет ни глубокого самосознания, ни чувства свободной воли.
Теперь давайте вообразим робота, снабженного набором символов. Он помещается в Т-образный лабиринт. Вместо того, чтобы идти за поощрением, расположенным в одном из концов Т, робот запрограммирован таким образом, что он идет налево, когда следующая цифра корня из двойки четная, и направо, когда она нечетная. Робот умеет изменять ситуацию в своих символах таким образом, что может наблюдать за процессом решения. Если каждый раз, когда он приближается к развилке, спрашивать его: «Знаешь ли ты, куда ты сейчас повернешь?», — он будет отвечать «Нет.» Затем он должен будет включить процедуру «решение», вычисляющую следующую цифру квадратного корня из двойки, и затем принять решение. О внутреннем механизме принятия решения роботу ничего не известно — в его системе символов этот механизм выглядит как черный ящик, таинственным и, по-видимому, произвольным образом выдающий команды «направо» или «налево.» Если символы робота не способны установить связи между его решениями и чередованием четных и нечетных цифр в корне из двойки, бедняга будет недоумевать перед своим «выбором». Но можно ли сказать, что этот робот на самом деле что-либо выбирает? Поставьте себя на его место. Если бы вы находились в шарике, катящемся с горы, и могли бы наблюдать его путь, не имея никакой возможности на него повлиять, сказали бы вы, что шарик выбирает дорогу? Разумеется, нет. Если вы не можете повлиять на выбор пути, то совершенно все равно, существуют ли символы.
Теперь мы модифицируем нашего робота, позволив символам — в том числе, символу его самого — влиять на его решения. Перед нами оказывается пример действующей по законам физики программы, которая гораздо ближе подходит к сути проблемы выбора, чем предыдущие примеры. Когда на сцену выходит блочное самовосприятие робота, мы можем идентифицировать себя с ним, поскольку сами действуем подобным образом. Это больше не похоже на вычисление квадратного корня из двойки, где никакие символы не влияли на результат. Однако, если бы мы взглянули на программу нашего робота на низшем уровне, то обнаружили бы, что она выглядит почти так же, как и программа для вычисления корня из двойки. Она выполняет команду за командой и результатом является «налево» или «направо». Но на высшем уровне мы видим, что в оценке ситуации и в принятии решения участвуют символы. Это коренным образом меняет наше восприятие программы. На этом этапе на сцену выходит значение, похожее на то, с каким имеет дело человеческий разум.
Водоворот Гёделя, где скрещиваются все уровни
Если некая внешняя сила теперь предложит роботу пойти налево («Л»), это предложение будет направлено в крутящуюся массу взаимодействующих символов. Там, как лодка, затянутая в водоворот, оно неизбежно окажется втянутым во взаимодействие с символом, представляющим самого робота. Здесь «Л» попадает в Запутанную Иерархию символов, где оно передается наверх и вниз. Само-символ не способен наблюдать за всеми внутренними процессами; таким образом, когда принято конечное решение — «Л», «П» или что-либо вне системы, — система не способна сказать, откуда оно взялось. В отличие от стандартной шахматной программы, которая не следит за собой и не знает, почему она выбирает тот или иной ход, эта программа имеет некоторое понятие о собственных идеях; однако она не может уследить за всеми деталями идущих в ней процессов. Не понимая их полностью, она воспринимает эти процессы интуитивно. Из этого равновесия между само-пониманием и само-непониманием рождается чувство свободной воли.
Представьте, например, писателя, старающегося передать некие идеи, представленные набором образов у него в голове. Он не уверен, как эти образы ухитряются гармонично сочетаться в его воображении, и начинает экспериментировать, выражая вещи по-разному, пока не остановится на окончательном варианте. Знает ли он, почему выбрал именно этот вариант? Только приблизительно. Большая часть источников его решения, подобно айсбергу, находится глубоко под водой, невидимая глазу, — и он об этом знает. Или представьте себе программу-композитора. Ранее мы уже это обсуждали, спрашивая, когда можно будет назвать эту программу композитором, а не простым инструментом человеческого сочинителя. Возможно, что мы сможем согласиться с ее самостоятельностью, когда в программе появится самосознание, основанное на взаимодействии символов, и она достигнет равновесия между само-пониманием и само-непониманием. Неважно, если система действует по детерминистским законам, мы говорим, что она делает выбор, когда можем идентифицировать себя с описанием процессов, происходящих на высшем уровне работающей программы.
На низшем уровне, уровне машинного языка, эта программа будет выглядеть точно так же, как любая другая, только на высшем, «блочном» уровне могут возникнуть такие качества, как «воля», «интуиция» и «творческие способности».
Идея в том, что именно «водоворот» само-символа порождает запутанность и «Гедельность» мышления Меня иногда спрашивают:«Автореферентность — очень интересная и забавная штука, но действительно ли вы считаете, что в этом есть что-то серьезное?» Безусловно. Я думаю, что именно это окажется в сердце Искусственного Интеллекта и в фокусе всех усилий направленных на понимание того, как работает человеческий разум. Именно поэтому Гедель так органично вплетен в ткань моей книги.
Водоворот Эшера, где скрещиваются все уровни
Рис. 142. М. К. Эшер. Картинная галерея (литография, 1956).
Поразительно красивая и в то же время странно тревожащая иллюстрация «глаза» циклона, порожденного Запутанной Иерархией, дана нам Эшером в его «Картинной галерее» (рис. 142). На этой литографии изображена картинная галерея где стоит молодой человек, глядя на картину корабля в гавани небольшого городка, может быть, мальтийского, судя по архитектуре, с его башенками, куполами и плоскими каменными крышами, на одной из которых сидит на солнце мальчишка, а двумя этажами ниже какая-то женщина — может быть, мать этого мальчишки — глядит из окна квартиры, расположенной прямо над картинной галереей, где стоит молодой человек, глядя на картину корабля в гавани небольшого городка, может быть, мальтийского — Но что это!? Мы вернулись к тому же уровню, с которого начинали, хотя логически этого никак не могло случиться. Давайте нарисуем диаграмму того, что мы видим на этой картине (рис 143).
