Основным рабочим компонентом мозга является нейрон, а у компьютера основным рабочим компонентом является транзистор. Типичный нейрон получает сигналы от других нейронов и с помощью процесса, который мы не особенно хорошо понимаем, решает, посылать ли сигнал другим нейронам. Чтобы сделать всё это и вернуться в исходное состояние для дальнейшей работы, нейрону требуется примерно одна миллисекунда. Современные транзисторы включаются и выключаются не менее чем в миллион раз быстрее. Хотя обе этих величины могут показаться невероятно быстрыми по человеческим меркам, вот небольшое сравнение, чтобы дать понять наглядно, насколько они отличаются друг от друга: предположим, что человек А (который символизирует транзистор) может выполнить данное ему задание за день. Предположим, что человек Б (символизирующий нейрон) тоже может выполнить это задание, однако это займёт в миллион раз больше времени. Если бы человек А приступил к выполнению задания 24 часа назад, то когда человек Б должен был бы начать работу, чтобы они могли закончить её в одно и то же время? Ответ: в 770 году до н.э., за несколько веков до того, как афинские греки составили свод законов логики.
Наконец, мы отмечаем, что эндокринная система человека способна наполнять мозг химическими веществами, которые оказывают значительное влияние на его функционирование. Например, представьте себе попытку сдать трудный экзамен сразу же после расставания со своим женихом или невестой. (Как профессора старой школы, мы оба можем засвидетельствовать, что такого рода вещи случаются чаще, чем вы думаете.) Таким образом, хотя и мозг, и компьютер обладают системами, которые приводятся в действие посредством электричества, только у мозга есть ещё и химический контроль.
Короче говоря, мы не можем относиться к компьютеру, который существует в наши дни, так же, как мы относимся к мозгу. Просто эти две системы слишком разные. Это не значит, что мы считаем, что никто и никогда не сможет создать компьютер, достаточно сложный, чтобы его можно было считать живым и сознательным. Это далеко не так. Просто если бы был создан такой компьютер, он был бы не просто примером Человечества версии 2.0, но обладал бы иным типом разума по сравнению с нами. Хотя мы даже представить себе не можем, как может выглядеть этот разум, мы с большой радостью присоединяемся к группе писателей-фантастов, которые изображают роботов и компьютеры будущего лишёнными человеческих эмоций. Этот вывод, видимо, вытекает из отсутствия компьютеризированного эквивалента эндокринной системы, что либо останется особенностью машин передовой конструкции, либо не останется.
Будет ли развитие «мыслящих» компьютеров обязательно означать конец человечества? Это, безусловно, самый распространённый из всех сценариев в жанре антиутопии. Многие из них предполагают, что где-то на этом пути технически совершенные компьютеры достигнут состояния технологической сингулярности, приобретя разум и научившись улучшать свою собственную конструкцию. Эти изменения, как мы уже говорили выше, могут быть незаметными для людей, следящих за машинами. С этого момента, говорится далее, машины будут совершенствоваться с головокружительной скоростью, быстро выходя из-под контроля человека, что станет началом катастрофы для их создателей. Мы можем назвать это «сценарием ученика чародея».
Наш любимый «сценарий ученика чародея» был сформулирован философом Оксфордского университета Ником Бустрёмом и известен под названием «вселенная скрепок». Создана машина с искусственным разумом, в функцию которой входит брать материалы из окружающей среды и превращать их в канцелярские скрепки. Он совершенствуется до такой степени, что выходит из-под контроля человека и в итоге превращает всю вселенную, в том числе людей, которые его создали, в скрепки. Важно понимать, что в этом сценарии со стороны ИИ не проявляется никаких эмоций. У машины нет к вам ненависти: просто вы сделаны из атомов, которые нужно превратить в скрепки.
Как и любой другой человек, мы получаем удовольствие от просмотра хорошего фильма-катастрофы. С другой стороны, нам трудно воспринимать подобные сценарии слишком серьёзно. В конце концов, они требуют от нас верить в расу существ, которые являются достаточно хорошими инженерами, чтобы создавать машины с искусственным интеллектом передовой конструкции, но слишком глупы, чтобы понять, что в свои творения нужно вставлять ещё и выключатель.
Одной из интересных вариаций темы искусственного интеллекта является нечто под названием «зонд фон Неймана». Он назван в честь американского математика венгерского происхождения Джона фон Неймана (1903-57). Говоря современным языком, зонд фон Неймана — это робот, управляемый искусственным разумом, способным контролировать создание собственных копий. Идея состоит в том, что целый флот этих зондов можно было бы отправить на экзопланету при сравнительно небольших затратах, поскольку они не требуют жизнеобеспечения. Как только несколько из них совершат посадку, они смогут приступить к поиску месторождений полезных ископаемых и других материалов, необходимых для создания большого штата рабочих, которые, в свою очередь, начнут создавать инфраструктуру, необходимую для колонистов-людей (или, как минимум, для кого-то на углеродной основе), которые прибудут, когда роботы закончат работу. (Если предполагать, что способ передвигаться быстрее скорости света не был открыт, колонисты, которых запустили туда отдельно, проведут долгое путешествие между звёздами в состоянии анабиоза или, возможно, будут потомками людей, которые поднялись на борт корабля поколений десятки, или даже сотни лет назад.) Добравшись до экзопланеты, люди, предположительно, отправят ещё одну флотилию зондов фон Неймана, чтобы запустить процесс в следующем подходящем мире. Как вариант можно было бы запрограммировать зонды фон Неймана на самостоятельное выполнение этой задачи.
Дело в том, что как только процесс фон Неймана начнётся, он будет продолжаться до конца, независимо от того, выживут исходные строители, или нет. Без путешествий со сверхсветовой скоростью после того, как произойдут первые несколько повторений этого процесса фон Неймана, существам с родной планеты будет сложно общаться с самым дальним краем фронта колонизации. Назовём получившуюся ситуацию, когда роботы разлетаются веером по колониям по всей галактике, волной фон Неймана. Расчёты показывают, что для покрытия всего Млечного Пути волне фон Неймана потребовалось бы несколько десятков миллионов лет. Хотя по человеческим меркам это долгий срок, в космической астрономии едва ли пройдёт один миг. Если мы воспользуемся нашим старым трюком сжатия истории Вселенной в один год, то волна фон Неймана накроет галактику всего лишь за день или два.
Один из способов сформулировать парадокс Ферми (см. главу 9) — это спросить, почему зондов фон Неймана нет на Земле. Мы сомневаемся, что у людей возникли бы какие-то проблемы с распознаванием обычных роботов, компьютеризированных существ или обладателей искусственного интеллекта, хотя вполне возможно, что зонды фон Неймана были бы настолько совершенными технически, что мы вообще не смогли бы их распознать. В любом случае, вопрос о том, будут ли они «живыми» или «мыслящими», гораздо сложнее. В главе 3 мы видели, как сложно дать определение концепции жизни, которая кажется такой простой. Определить, обладает ли другое существо сознанием, ещё сложнее, и мы считаем, что справедливо будет сказать, что в настоящее время мы и близко не подошли к тому, чтобы дать ответ этот вопрос.
В 1950 году учёный в области информатики Алан Тьюринг (1912-54) предложил один подход к проблеме машинного сознания. Идея его так называемого «теста Тьюринга» состоит в том, чтобы группа людей взаимодействовала с кем-то (или чем-то) таким образом, чтобы они не могли видеть, с кем (или с чем) они взаимодействуют. О машине, которая способна убедить судей в том, что она является человеком, говорят, что она прошла тест Тьюринга. На момент написания этих строк этого не удалось ещё ни одной машине, хотя некоторые добились определённых успехов, когда тема, разрешённая для опроса, была ограничена. Похоже, что компьютеры испытывают проблемы с такими вещами, как сарказм, юмор и человеческая иррациональность. Роботов, способных пройти тест Тьюринга, в ближайшем будущем не ожидается, но, в конце концов, они почти наверняка появятся. Наконец, мы отмечаем, что, несмотря на популярный фольклор, утверждающий обратное, машина, которая прошла тест Тьюринга, не дала доказательство того, что она обладает сознанием — она просто продемонстрировала способность обманывать оценивающих её людей.
