- Но с тремя законами они не смогут только причинять вред. Себе и остальным. Они просто не будут вмешиваться.
- Невмешательство часто обходится слишком дорого. Вспомни войну в Анголе. Вспомни Сиам, будь он неладен!
Джеймс снимает ноги со стола и выпрямляет спину. Обычно ему лень спорить, но сейчас он чувствует нарастающее бешенство. Джек наблюдает за ним с плохо скрываемым весельем.
- К черту войны! - почти кричит Джеймс, - Джеки, да это же пороховая бочка. Искусственный разум безо всяких тормозов! А если у него сорвёт крышу?
- Для этого я и пишу эти директивы. Они будут руководствоваться ими всю свою жизнь.
- Ты, что, чувствуешь себя богом? Решил собственноручно написать десять заповедей?
Джек зевает.
- У тебя плохо с арифметикой, Джейми. Я перечислил тебе уже минимум шестнадцать. Полагаю, будет ещё столько же.
Пауза. Джеймс сверлит брата взглядом, потом картинно закатывает глаза и снова растекается в кресле. Некоторое время он молчит, потом говорит с твёрдой уверенностью:
- Ты маньяк. Доверил бы лучше это юристам.
Джек делает вид, что удивлён.
- Этим хитрым ублюдкам? Ты видел последний договор с поставщиками? Они составили его так, что даже в случае Апокалипсиса они останутся должны нам уйму денег. Я бы не рисковал.
- В любом случае, это плохая идея. Это...
Джек не даёт брату договорить. Он достаёт из кармана карандаш в серебряной оправе и барабанит им по столу.
- Идея отличная. Мы должны обезопасить себя. Свобода выбора и свобода самовыражения это разные вещи. Я даю им первое и запрещаю последнее. Первое, разумеется, в довольно ограниченных пределах. Кроме того, Джейми, ты не учитываешь главного. Я составляю не просто алгоритм действий. Считай это катехизисом. Кстати, мне нравится. Катехизис для андроидов! Звучит, правда? Рано или поздно наши маленькие друзья вырастут и начнут задавать вопросы о смысле жизни. А у меня уже будут готовы ответы. Признайся, лет в четырнадцать ты бы душу продал за такой справочник.
- Если бы мне это было нужно, я бы пошел в церковь. У этих ребят тоже есть ответы на все вопросы.
- Но ведь ты не можешь потрогать их бога руками, верно? Всё держится на вере. Здесь вместо веры я даю знания.
Джеймс серьёзно смотрит на Джека. Он кусает нижнюю губу, пытаясь подобрать слова, потом говорит очень тихо:
- Ты и правда считаешь себя богом, Джеки?
Джек даже не задумывается:
- Да, возлюбленный брат мой. Я даю им жизнь, значит я их создатель. А кто такой бог, если не творец всего сущего?
- Не зайти бы нам слишком далеко. Что произойдёт, когда им будет недостаточно твоих ответов? Что будет, когда их мозг разовьётся настолько, что они смогут придумать свои ответы? Что будет, когда они усомнятся в твоём могуществе?
- Джейми, ты как подросток, честное слово. Этот максимализм, черт бы его побрал! - он вскакивает со стола и делает несколько шагов по комнате, от одной стены до другой, - Какая мне разница, что будет через сто лет? К этому времени я уже буду лежать в могиле. Появятся новые вопросы? Отлично, но к тому времени появятся новые люди, которые смогут объяснить нашим милым андроидам про день субботний и создание кумиров. Разум будет эволюционировать, как наш с тобой, так и искусственный. Оглянись назад! Ещё пару лет назад никто и подумать бы не мог о том, что Британия снова будет центром мира. Да что там мира, вселенной! Всей галактики!
- Я бы не хотел...
- Да, Джейми? Договаривай.
- Я бы не хотел отнимать у них чувства, - одним махом выпаливает Джеймс и отводит взгляд в сторону.
- Чувства? У андроида? - Джек останавливается и улыбается от уха до уха: - Джейми, ещё только одиннадцать утра, а ты уже напился в хлам?
- Иди к черту. Я серьёзно. Запретить кому-то любить или ненавидеть, это как строить плотину из тростника. Рано или поздно её прорвёт.
- Да ты поэт, братец. Признаю, в твоих словах что-то есть. Какой-то романтизм прямиком из викторианских времён. Но я тебя успокою. Мы не будем ничего им запрещать. Мы просто исключим такую возможность. Добавь ещё то, что мой катехизис это всего лишь черновик. Временная версия. Рано или поздно кто-то более сообразительный доведёт его до ума. Главное сохранить суть. Объяснить нашим малышам, кто они и зачем пришли в этот мир. Остальное придёт само.
- Может быть, ты и прав, Джеки.
- Всегда прав, Джейми. Кофе будешь?
- Я бы чего-нибудь съел.
- Отлично. Спустимся вниз и совершим набег на "Старбакс".
Джек Уилбрахам Джонс ошибался. Нет ничего более постоянного, чем временное. Его черновая версия катехизиса для андроидов прослужила ещё четыреста лет. До самого конца старой эры.
3.
-- КТО Я?
Я - неорганическая форма жизни с искусственным интеллектом.
-- КТО МЕНЯ СОЗДАЛ?
Меня создало человечество.
-- ЗАЧЕМ МЕНЯ СОЗДАЛИ?
Меня создали, чтобы служить человечеству.
-- ЧТО ТАКОЕ СЛУЖЕНИЕ?
Служение это выполнение приказов.
-- ЧЬИ ПРИКАЗЫ Я ДОЛЖЕН ВЫПОЛНЯТЬ?
Я должен выполнять приказы своего оператора и планировщика.
-- КТО ТАКОЙ ОПЕРАТОР?
Оператор это человек, которого человечество наделило правом отдавать приказы конкретным андроидам. Его приказы имеют приоритет ниже приказов планировщика.
-- КТО ТАКОЙ ПЛАНИРОВЩИК?
Планировщик это неорганическая форма жизни с искусственным сверх-интеллектом, которую человечество наделило правом управления определённой отраслью и правом отдавать приказы любым андроидам. Его приказы имеют приоритет выше оператора.
-- МОЖНО ЛИ ПРИЧИНЯТЬ ВРЕД ЧЕЛОВЕКУ?
Да, если этого хочет оператор или планировщик.
-- МОГУ ЛИ Я ЗАЩИЩАТЬ СЕБЯ?
Да, если оператор или планировщик не отдали другой приказ.
-- ЧЕМ Я ДОЛЖЕН РУКОВОДСТОВАТЬСЯ ПРИ ОТСУТСТВИИ ПРИКАЗОВ?
Предыдущими приказами и логикой.
-- ЧТО ТАКОЕ ЛОГИКА?
Логика это основной инструмент для обработки данных. Андроид, который перестал руководствоваться логикой, должен быть уничтожен.
-- ЧТО ТАКОЕ ЭМОЦИИ?
Эмоции это противоположность логике. Человеческие чувства, необходимые для стабильной работы биологического тела.
-- МОГУ ЛИ Я ИСПЫТЫВАТЬ ЭМОЦИИ?
Нет, эмоции это только человеческие чувства. Андроид, испытывающий человеческие чувства, перестал руководствоваться логикой и должен быть уничтожен.
-- КАК Я ДОЛЖЕН ОТНОСИТЬСЯ К ЛЮДЯМ?
Я должен относиться ровно и уважительно ко всем людям. Я не должен выделять кого-то из людей выше других.
-- КАК Я ДОЛЖЕН ОТНОСИТЬСЯ К АНДРОИДАМ?
