«Я видел как медведь лез на дерево при помощи бинокля. Что у медведя в лапах?»
Ответ:
«Ветки дерева».
Вот теперь Макс был по-настоящему ошеломлен.
Мистер Моррисон объяснял, что подобные фразы сбивают логические цепочки компьютеров, потому что допускают неоднозначное толкование. Из совокупности информации «я видел в тот день человека в лесу, который ронял на тропинки листву», компьютер может распрекрасно заключить, что человек шел себе по лесу и ронял листву, которую нес с собой. Пошел мужик в лес со своей листвой…
С равной степенью вероятности компьютер мог легко и просто сделать вывод, что ронял листву не человек, а действительно лес или же тот день, которому именно так довелось провести свои часы и минуты.
Бред, конечно.
Но в этом-то весь смысл. Компьютер не понимает, что есть абсурд, а что нет. Он не задумается и не ответит: «Погоди-ка, это же полная чушь!»
Человек же мгновенно запустит в памяти миллионы событий — личных и общемировых: отношения между объектами, правдоподобные ситуации и забавную чепуху. Другими словами, задействует здравый смысл.
Современные умники с карманными протекторами[8] говорят, что тщательная симуляция «здравого смысла» требует так много сложнейшим образом взаимосвязанных данных, что достичь подобного не удастся никогда, кроме, возможно, очень точной имитации человеческого мозга. Подразумевая при этом, что для программы требуется смоделировать кровоток, электрические импульсы, нейроны — в общем, всю физическую структуру мозга до клеточного уровня. Обычно они добавляют, что вычислительные мощности такого комплекса потребуют больше кремния, чем имеется в Солнечной системе, и больше энергии, чем есть в нашей Галактике, и вообще, для запуска программе понадобится «дофигальон» лет или около того.
Дело в том, что Уилл, как обычно, пошел другим путем. Макс знал, конечно, что Уилл гений, но не до такой же степени.
Оставалось единственное объяснение.
Фокус с подвохом. Изящный розыгрыш. Бугагашенька.
Макс нарочито гневно посмотрел на друга и театральным жестом обвиняюще наставил на него указующий перст:
— Понятно! В соседней комнате за компьютером сидит твой отец! Он и отвечает на вопросы.
Довольная улыбка Уилла цепко сидела на месте.
— Не-а. Попробуй еще раз.
По его ясному выражению лица Макс видел, что друг не лжет. Настолько хорошо обман ему никогда не удавался. Макс поразмыслил чуть подольше, потом решил использовать другой текст:
«Как тебя зовут?»
Спустя минуту пришел ответ.
НЕДОПУСТИМАЯ ОПЕРАЦИЯ: неверное употребление слова «тебя».
Макс нахмурился. Должно быть, Уилл заметил выражение его лица, потому что подполз, по-паучьи переставляя длинные ноги, поближе к ноутбуку и прищурился на экран.
— А, это… Это специально.
— Что специально?
Уилл внезапно разволновался. Он снял очки и стал нервно протирать их краем своей мешковатой футболки.
— Оно не знает, что существует, — я это отключил.
Потихоньку Макса осенило.
Возможно, в этой штуковине скрыт больший потенциал, и это совсем не игрушка…
— Итак, ты утверждаешь, что мог наделить его… самосознанием?
— Верно. Но туда заложена целая куча разных систем и приложений, способных работать и без него, гибкая настройка… — Уилл снова надел очки, в его голосе опять зазвучало вдохновение. — По сути, я соединил в общую сеть все суперкомпьютеры университета и написал программульку — поискового робота, который добывает инфу из Интернета и передает ее в модель коры человеческого мозга.
Модель коры головного мозга человека. Уилл говорил и говорил, а взгляд Макса блуждал по разложенным по всей комнате стопкам книг и бумаг. На корешках в одной из кип он прочел названия: «Нервная система», «Введение в нейрологию», «Интерполяция нейросигналов». Плюс набор учебных пособий, связанных с разработками ИИ.
Макс знал, что отец Уилла — профессор информатики и вычислительной техники, потом смутно вспомнил, что мать вроде бы работает на кафедре неврологии. Очевидно, Уилл не только влез в родительскую библиотеку, но сделал больше: объединил их области знаний. Причем успешно.
Он сделал это!
— …И потом, оно должно быть достаточно мощным для применения любых экспертных систем, — продолжал Уилл. — Оно будет совершенно для имитации программного агента справочной системы. Только представь себе: автоматический телефонный оператор, который на самом деле тебя понимает!
Наконец Уилл умолк и выжидательно улыбнулся Максу, явно готовый к воплям радости и восхищения.
Но эту стадию Макс уже прошел.
Теперь он прокручивал в голове разные возможности. Уилл расколол орешек, который был не по зубам самым выдающимся ученым на протяжении шестидесяти лет. Он создал действующую модель человеческого разума — искусственный интеллект.
Уилл сделал свое Великое Открытие в нежном возрасте семнадцати лет.
Но кое-что из сказанного им беспокоило Макса.
Оно не знает, что существует, — я это отключил.
Что скажешь, когда тебе показывают первую в мире лампочку накаливания, но не включают ее? Что ответишь тому, кто взволнованно перечисляет 1001 способ ее применения, кроме освещения? Уилл уже был невероятно близок к решению задачи. Просто немного не довел ее до конца. А самое поразительное — он сделал это специально.
Макс не смог сам угадать причину. Пришлось спросить:
— Почему бы не завершить работу?
Радостная улыбка Уилла превратилась в смущенную.
— Что?
— Почему бы не дать ему личность? Сознание.
Уилл пожал плечами:
— Это будет неэтично.
Но Макс видел расстроенный взгляд друга. Да, Уилл очень хотел это сделать. Он жаждал творить историю. Его просто надо было чуток подтолкнуть.
— Уилл, слушай, я не предлагаю лезть в это дело бездумно и в грязных сапогах. Как только устройство начинает осознавать себя — это больше не пустая железяка. Здесь мы говорим уже о приходе в мир новой личности, в этом и заключается этическая проблема, так?
Уилл кивнул в ответ.
— Согласен, это безумство. И не будет легко и просто. Но это — открытие века, Уилл. Возможно, рассвет новой эры! — Макс говорил, прослеживая цепочки рассуждений и логических выводов, причин и следствий, как позитивных, так и негативных. Мысленным взором он унесся от Уилла вдаль, к тому, что затмевало все их прежние переживания. — Конечно, риск есть. Мы создаем новую жизнь. Но сотни младенцев рождаются каждый день, многие в ужасных условиях. Некоторые не доживают до своего второго дня рождения. Болезни, голод, отсутствие элементарного обучения, а сколько брошенных детей?! — Макс снова посмотрел на Уилла. — В нашем случае о многих этих проблемах даже думать не придется. Твое создание не ест, не простужается, да и обучил ты его уже по полной интернетовской программе. Все, что нам надо делать для развития этого ИИ, — не отказываться от него.
Уилл смотрел прищурившись, словно Макс был не в фокусе.
Макс осознал странность происходящего. Можно сказать, что Уиллу в большинстве случаев при решении каких-либо задач не приходилось думать — ответ как бы материализовывался перед ним, будто в его круглых очках помещался дисплей некоего мощнейшего вычислителя. Но друзья редко говорили о философии или этике. Видимо, в этой области Уиллу достались какие-то иные (и слегка заторможенные) способности.
Наконец Уилл заговорил:
— Как насчет безопасности? От других людей, я имею в виду.
Теперь уже Макс был обескуражен. Уилл продолжал:
— Что если наш искусственный разум окажется злобным?
Максу пришлось объяснить ему примерно следующее.
Злобный ИИ являлся исходным условием для слишком многих плохих фантастических фильмов и, к сожалению, также и нескольких хороших. Хорошие фильмы были хороши, потому что показывали, сколь вероятным могло оказаться исходное условие.
— Вопрос по существу, — добавил Макс. — Какой самый ужасный кошмар может приключиться?
Уилл задумчиво смотрел на товарища, и тогда Макс выдал сценарий самого тяжелого случая из одного из лучших, с его точки зрения, НФ-фильмов.
— Мог бы он, скажем, взломать систему военных компьютеров и начать последовательно запускать все ядерные ракеты?
Уилл ответил, покусывая ноготь большого пальца:
— Вовсе нет. Симулятор мозга не имеет доступа к низкоуровневым операциям микропроцессора, он может, конечно, выполнять расчеты, но делает это органически, естественно, как мы. Он недостаточно скоростной, чтобы взламывать защитные системы, подбирать пароли и все такое…
— Тогда в чем же опасность? — спросил Макс.
Уилл пожал плечами:
— Думаю, он в безопасности.
Однако казалось, что он не стремится приняться за работу. Макс на секунду задумался и снова натолкнулся на вопрос, который собирался задать раньше:
