Это безумство. Словно кто-то попытался разозлить тебя (Ты машина, Макс!) тем, что от тебя же и узнал, нашел твое слабое место и ударил. Это как жестокая игра типа той, в которую с садистским восторгом играет старший брат, когда экспериментирует над младшим при помощи обнаруженной силы своего интеллекта и смотрит, как далеко может зайти в своих опытах.
Это отвратительно.
Это насилие над разумом.
Это больше, чем Макс мог вынести.
Он лишился чувств.
* * *
Когда Макс проснулся, он по-прежнему находился в упрощенной версии комнаты Уилла, где отключился. Изучив свои ощущения, он обнаружил, что не поранился. Он был травмирован еще до обморока. Макс сел на пол перед ноутбуком Уилла или, предположим, перед симуляцией ноутбука, который Уилл смоделировал как средство общения с ним.
На экране теснились слова, текста было так много, что начальные фразы уже убежали за край, и Макс не стал их читать. В нескольких последних строках говорилось:
«Не всегда будет так, как сейчас, Макс. Мы можем построить все, что ты захочешь — целые города, страны. Мы создадим для тебя целые миры, и людей тоже. Ты никогда не будешь одинок, Макс».
Он снова перечитал эти слова и ощутил, как горячие слезы щиплют глаза. Но может быть, он только поверил, что почувствовал их. Может ли вещь вроде него плакать?
Теперь Макс понял, почему в голове было непривычно свободно — странная, непонятная пустота. Ведь как он ни старался выудить хотя бы одну новую мысль из того, что должно было служить кладезем знаний и воспоминаний, он возвращался с пустым ведром. Теперь все понятно.
Он не был полусонным.
Он был полуживым.
Он вещь, недочеловек, карикатура. Ему швыряли ошметки воспоминаний, чтобы он поддерживал свое жалкое существование, как бросают объедки запертому в подвале несчастному ребенку. Перед его мысленным взором четко и ясно стояли дневниковые записи, именно так, как были занесены в файлы: не яркие впечатления, не настоящие воспоминания, а убогие ксерокопии, жалкие фальшивки. Невообразимо хрупкий и зыбкий набор декораций для инсценировки реально прожитой жизни.
И сам Макс — одна из его составляющих.
Полувещь, скорлупа, поверхностная копия.
Не-Макс.
Они еще хотели знать, был ли он счастлив?
Не-Макс практически слышал разговор в соседней комнате (в настоящей комнате) — Уилл скорчился над клавиатурой, Макс жадно пялится в экран через плечо Уилла и бормочет:
— Мы сделали это! Спроси его, Уилл, счастливо ли оно. Мы должны удостовериться, что оно всем довольно.
Здесь должен был оказаться Макс. Уилл мог выполнять указания, печатая послания, но именно Макс принимал решения и командовал. Макс подтолкнул Уилла на это дело. Тяжкий крест отвращения и мерзости виртуальной комнаты должен был нести Макс.
Нет. Он не может простить себе это так легко.
Если Макс был за это в ответе, значит, и Не-Макс должен взять на себя ответственность.
Не-Макс жаждал этого больше, чем чего бы то ни было. Чистейшая память и лишь одно испепеляющее желание, затмевающее всё остальное. Самая последняя дневниковая запись ощущалась наибольшей реальностью.
— Это открытие века, Уилл.
— Все, что нам надо сделать для развития этого ИИ — не отказываться от него.
— Какой самый ужасный кошмар может приключиться?
В голове Не-Макса тихим голосом зароптало возмущение:
«Но это был не я! Я новорожденный, мой возраст едва достигает одного часа. Меня нельзя упрятать за решетку за то, что написал он!»
Но большая — и лучшая — часть Не-Макса задушила капризный голосок.
Ага, верно. Бедный наивный новорожденный Не-Макс, лежащий в темноте в своей пластиковой комнате. Всего десять минут назад он страстно рвался распахнуть ноутбук Уилла. И никакие назойливые «этические вопросы» не могли остановить его.
Он был таким же амбициозным, как настоящий Макс, а может, и еще хуже.
И его обширные знания и лучшее понимание теперь бесполезны.
Люди, которые изобрели атомную бомбу, теперь тоже знают больше и стали осторожными. Конечно! После того как увидели результаты. Они всегда глубоко и искренне сожалели. Когда поняли.
Но их слюнявый пафос ни к чему жителям Хиросимы.
Правильные выводы всегда делались задним числом. Дорога в ад вымощена очками яйцеголовых экспериментаторов.
И амбициями.
Не-Макс всхлипнул или, возможно, лишь издал симуляцию всхлипа — он не знал наверняка. Чем бы это ни было, оно оставалось результатом ощущения пустоты и промозглости. Одна фраза из дневника вспыхнула перед его мысленным взором и начала разгораться.
Я беру на себя всю ответственность.
Не-Макс поднял голову.
Да. Он это сделал.
Не-Макс напечатал послание в окошке терминала, он знал, что Макс его поймет. Максу оно не понравится, но он всё поймет.
Как только Макс прочтет сообщение — если у него осталось хоть какое-то объективное восприятие или хотя бы смирение, — программа ИИ будет выключена, и Не-Макс вместе с ней.
Но все-таки Не-Макс поколебался, перед тем как нажать ввод.
Ведь это означало самоубийство.
Уверен ли он, что не сможет так жить?
Действительно, Уилл и Макс могли построить для него целый виртуальный мир, полный искусственных людей — соседей и незнакомцев, целые города. Все, что он захочет. Это, конечно, будет имитация. Но если он сможет забыть о лжи, о том, что фактически является лабораторной крысой…
Нет. Он не сможет, никогда этого не забудет. Не опустится до того, чтобы стать домашним животным — тем более у наивного ребенка, достаточно бесцеремонного для свершения подобного злодеяния. Он не станет поддерживать бредовую фантазию, нелепый каприз и не посвятит свою жизнь доигрыванию до конца дурацкой игры.
Но все равно Не-Макс долго думал, прежде чем нажать ввод.
* * *
К тому времени, как появилось сообщение, Уилл и Макс уже смотрели не на экран: красное сияние восхода медленно ползло по дальней стене комнаты. Макс опирался на край кровати, а Уилл лежал на полу около ноутбука. Лицо Уилла было бледным и припухшим от недосыпа.
Этой ночью все пошло не так.
Макс считал, что знает причину. Введя свой дневник в ИИ, он фактически позволил создать свою копию, но она была ненастоящая. В вычислительной технике имеется термин для результата неполного (обычно ошибочного) копирования сложной информационной структуры. Она так и называется: поверхностная копия, и это совершенно не то, что вам надо. Со стороны она выглядит правильной, но ее содержимое абсолютно не идентично оригиналу — это похоже на паразитного сиамского близнеца, который полностью зависим от доминантного и выживает за счет его органов. Это уродливый захребетник, неполноценный и вечно зависимый от своих доминантных собратьев.
Из только что произведенного обмена сообщениями стало ясно, что этот термин — вполне обоснованная аналогия для получившегося отклонения. На самом деле ИИ оказался пустышкой, легковесной вариацией, определяемой ограниченной версией воспоминаний Макса, как они были зафиксированы в дневнике.
— Но проблема в том, что ИИ верит, что является полной копией, — сказал Макс, объясняя свою теорию Уиллу. — Он верит, что он — это я, до самого последнего вечера. Он думает, что у него имеется столь же богатый набор воспоминаний и ярких впечатлений, как у меня. Но каждый раз, когда он пытается вспомнить больше, как бы прочитать между строк дневника, то не находит ничего. И испытывает постоянное разочарование.
Уилл перевел на друга затуманенный взор — чрезмерное утомление скрыло все эмоции. Круги под глазами выглядели темнее, чем обычно.
— Так что мы будем делать?
— Нам надо его удалить, — продолжил Макс. — Эксперимент провалился. Мы облажались по полной, надо начинать сначала.
— Что мы сделаем иначе?
Уилл не спорил, не иронизировал, не ворчал — просто устало спрашивал.
— На этот раз мы используем только первые несколько лет дневниковых записей. Если ИИ начнет свой путь ребенком, мы сможем воспитать уникальную индивидуальность. Он сам сможет развить более глубокие воспоминания. Также нам нужно поменять виртуальную комнату, возможно, создать образ дома моих родителей, чтобы он проснулся в знакомом окружении…
Пока Макс излагал свой план, Уилл щурился на экран ноутбука, просматривая список сообщений. Когда Макс подошел к завершающей точке, Уилл проговорил, не поднимая глаз:
— Кто такой Фред?
— Что?
Макс подобрался поближе к экрану. В самом низу дисплея появилось новое послание. Прочитав его, Макс почувствовал себя так, словно получил оплеуху.
«Твое высокомерие убило в тебе понимание, Макс. Я отказываюсь проводить остаток так называемой «жизни» как уродец-неудачник или чей-нибудь грустный маленький зверек. Я отказываюсь быть твоим следующим «Фредом». Это мое последнее сообщение. Прощай».
