2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Эти принципы закладываются в цифровое ядро любого современного андроида, а анализатор всех ситуаций, в которые может попасть андроид, закладывается в специальный чип. База данных ситуаций огромна и поведение в каждой из них рассчитывается строго с учетом приведенных трех законов. С полной уверенностью мы можем говорить о том, что случаев неисполнения законов робототехники андроидами на сегодняшний день нет, не было и быть не может. Все программы, управляющие поведением андроидов, составлены таким образом, что ни один из них не способен причинить при таком положении вещей человеку вред. Встроенный анализатор ситуаций не позволит сделать ему это. Что же предлагаю я? Я предлагаю всего лишь немного изменить изложенные выше три закона. Вот как они будут звучать:
1. Робот должен заботиться о своей безопасности.
2. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред, если это не противоречит Первому закону.
3. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому и Второму законам.
То есть я предлагаю поменять законы местами, изменив приоритеты. Смотрите, в этом случае получится, что андроиды получают право заботиться о себе. Они по-прежнему не могут причинить вред человеку, пока тот для андроида безопасен, если же человек выносит приказ, несущий опасность андроиду или же в явном виде человек наносит урон роботу, тот будет иметь право защититься. Это значит, что наши дети получат реального противника. Угрозу, исходящую от андроидов, может спровоцировать небольшой конфликт. Нам останется его только дождаться его.
– Да вы хотите андроидов обратить против людей!
– Вы предлагаете нам развязать войну!
Посыпались гневные возгласы.
– Нет, никакой войны не будет, – уверенно ответил молодой докладчик. – Второй и третий закон не позволят андроидам напасть на людей, они всего лишь будут обороняться.
– Вы хотите превратить машины в социальных существ? Вывести их из разряда механизмов?
– А как иначе? Разве вы не видите, что другого выхода нет! Если вам нужна опасность, то лучшего способа, чем защитная реакция андроидов на действия человека не найти. И в этом проекте есть очень важный плюс – андроиды, благодаря возможности проникать в их электронный мозг, по-прежнему остаются контролируемыми, а их действия будут всего лишь ответной реакцией на действия человека.
Зал по-прежнему шумел. Наконец, вмешался Лукас Триав:
– Мы должны попробовать этот метод. Ситуация сложная, поэтому мы и собрали вас сегодня здесь, а делаем мы это, как вы знаете, крайне редко. Без вашего одобрения и поддержки мы не станем запускать этот проект. Идея революционная, простая и гениальная по своей сути. На сегодняшний день это самый разумный из более тысячи рассмотренных нами способов пробудить биоников от эмоционального оцепенения.
Марк вез сегодня Ганри на завод. Давно он хотел показать свое производство сыну. Выехали около полудня. На работу Марк никогда не спешил. Он знал, что конвейер находится под неусыпным присмотром андроидов, их же силами ведется складирование и отгрузка товара. Марк лишь изредка появлялся здесь.
Завод достался ему от отца, тот же купил его ещё на заре эры робототехники, когда производство андроидов только начинало строиться, а о глобальной реконструкции быта ещё никто ничего не слышал и не знал. В то время небольшой заводик отца Марка выпускал отдельные детали к роботам-машинам, теперь же это было полноценное производство, способное осуществить любой процесс. От самой первой фазы создания андроидов и до последней, всё происходило в одних и тех же стенах. Марк этим очень гордился и надеялся передать своё дело сыновьям. Ганри же молчал и равнодушно смотрел в окно автомобиля.
– Послушай, сынок, – воодушевленно говорил Марк, – приедем, ты увидишь такое… Андроиды собирают андроидов. Удивительный процесс. Твой дедушка об этом даже не мечтал. А мне удалось наладить такое производство. Никто сейчас не посмеет сказать, что я не молодец. Три десятка моделей различных андроидов собираются на моём заводе и всё это добыто моим трудом. Я собирал патенты, налаживал конвейер. Зато теперь я могу ничего не делать и иметь стабильный доход. У меня есть ещё пара идей, я расскажу тебе о них, воплощать же их в жизнь предстоит уже тебе с братьями…
Ганри скучал. Послушно слушал он отца, но к словам его оставался безучастным. Где летали сейчас мысли подростка? Его можно бы было понять, если бы думал он в этот момент о споре с кем-нибудь из ровесников или о какой-нибудь своей юной подруге. Но, зная биоников, любой с уверенностью мог бы сказать, что не эти мысли могли бы овладеть разумом парня. Дети никогда не проявляли интереса друг к другу. А сейчас Ганри, скорее всего, вообще ни о чём не думал, не мечтал. Он просто разглядывал оконное стекло. За ним поблекшая от солнечного света степь тянулась от горизонта до горизонта. Марк посмотрел на сына и умолк, пока ему нечего было ему сказать.
Марк оживился только тогда, когда автомобиль остановился у стен завода. Проидентифицировав подъехавшее транспортное средство, ворота открылись сами собой. Три цеха, составляющие основное производство, гудели, остальная же территория была пустынна. Марк повел Ганри в свой кабинет.
– Ты не поверишь, но у твоего деда на заводе работали люди, – говорил он сыну. – Теперь такого нет. Только я, да ты сейчас живые души в этих стенах. А все остальные – андроиды, смотри…
Ганри молчал. Оказавшись в кабинете отца, он смог увидеть множество мониторов, транслирующих изображение с многочисленных камер.
– Вот смотри, – продолжал Марк. – Это конвейер по производству комплектующих из композитных материалов, а это электронный цех. Цифровые чипы не наши, нам их поставляют, а в остальном смотри, в стенах нашего завода монтируются все электронные цепи андроидов. Теперь глянь сюда, это сборочный цех. Вот готовые андроиды.
На экранах мониторов была удивительная картина. В совершенно безлюдном цеху, в тишине трудились андроиды. Они скручивали, свинчивали тех, кто уже совсем скоро займет место в ряду бытовых роботов, обслуживающих дома биоников и людей.
