- Раньше люди просто не знали этой проблемы. Да, собственно, и сейчас большинство знакомо с ней по газетным полемикам и буйной фантастической литературе. Фантасты давным-давно писали о бунте машин, но всерьез об этом никто не думал, не было реальной почвы. А потом начался первый спор: сможет ли наше кибернетическое устройство мыслить? Не сразу, нет, через какой-то срок. Сможет ли в принципе? Ну, сейчас ясно, что сможет. Это время уже сравнительно недалеко. Но ведь проблему соревнования машины и человека мы придумали сами, незаметно для себя сами же ее и раздули, а теперь очень постепенно, но неотвратимо перерождаемся. Нет, вы такого еще не знаете, в этом смысле мои студенты, будущие кибернетики, шаг вперед по сравнению с вами. Я неверно выразился - шаг назад. Они уже по-настоящему серьезно относятся к возможностям машин.
- Выходит, не было у бабки заботы?
- Не-ет, без этого порося человек обойтись не может. Если хотите, это больше похоже на того ирландца. Знаете?
- Нет.
- Это забавная штука, не помню уже, где я ее прочитал. Одного ирландца заметили за странным делом - он тщательно засовывал в щель дощатой мостовой бумажку в пятьдесят долларов. "Что ты делаешь?" - спросили у него. "Я уронил в щель десятицентовую монетку". - "А зачем засовываешь крупные?" - "Чтобы было из-за чего вскрывать мостовую", - сказал ирландец.
У нас то же самое. Началось с маленькой проблемы, а теперь мы все серьезнее относимся к делу наших же рук. А утрата юмора - первый признак любой духовной ненормальности. Ну, хорошо, машины все за нас делают или будут делать через несколько лет, они все сложнее и самостоятельнее. Но ведь это отнюдь не предвещает катастрофы. Ну, будут они мыслить. Ну и что же? Все равно ведь хозяин - человеческий ум. И был и останется. Он гибче, сильнее. И не скоростью вычислений или объемом памяти. Вовсе нет. Он сильнее точным ощущением цели не промежуточной, а конечной, умением мыслить нелогично и на первый взгляд даже неразумно: сильнее юмором, сердечностью, которая диктует подчас сумасбродные поступки; словом, тем единством духовных процессов, которые я назвал бы душой, если бы не боялся впасть в идеализм и поповщину. У машины этого не будет никогда, даже если она научится ставить цель, самовоспроизводиться и самообучаться.
И все-таки те, кто имеет дело с этими машинами, начинают преувеличивать их возможности. И через какие-нибудь тридцать-сорок лет думающий опытный инженер начнет бояться своего помощника - автомата, управляющего производством. А где-нибудь в лаборатории химик, вместо того чтобы следить за результатами опытов, будет обдумывать способы защиты от механического лаборанта, работающего с ядом. Самовнушение - лавинный процесс. Появляются первые симптомы, и это уже страшно, это грозит духовным вырождением, какой-то машинной цивилизацией. Не сразу, через века. Мы сами сдаем позиции. Впрочем, вы еще не ощущаете этого. Но вам хоть понятно?
Передо мной сидел старый человек с очень усталым лицом.
Боязнь дела своих рук - это болезнь, которая подкрадывается изнутри, развивается годами, иногда десятилетиями, но неотвратима.
Если она существует, эта боязнь. Иногда я вдруг ловил себя на том, что верю ему. Потом спохватывался. "Это просто от усталости, психический закидон", - думал я. А потом верил опять, и мне тоже становилось страшно. Я пробыл здесь достаточно и уже мог спокойно уезжать, сделав текст беседы из обрывков разговоров. Но уезжать не хотелось. Было жаль Ренского, который сочинил себе начало этого процесса боязни, хотелось его переубедить. Но дня через два он сказал сам:
- Все, в чем я вас убеждал, что говорил, я вам продемонстрирую, глаз закончили полностью. На него действуют те же раздражители, что и на обычный глаз. Мы его из профессионального лихачества снабдили даже слезными мешками и уже залили в них подсоленную воду. Все, как в жизни. В форме глаза, огромный и голубой. Я закажу вам пропуск в институт и покажу интересный опыт.
Он помрачнел.
- Я проверю свои мысли жестоким, но верным способом. У меня группа студентов-математиков с прошлого года изучает молекулярную электронику. Предмет сложный, сравнительно новый, я бы спокойно разрешил им пользоваться книгами. Все равно - кто не знает, не разберется.
А завтра пользоваться книгами запрещу. И уйду, предупредив, что глаз, следящий за ними, включен. А вы, вы убедитесь - они настолько уважительно относятся ко всемогуществу кибернетики, что в книгу никто не полезет. Плакать будут, а не заглянут. Машины они боятся больше, чем человека, выполняющего те же функции. Она ведь не знает ни жалости, ни снисхождения. Словом, потом им придется пересдавать.
- Это слишком жестоко, Игорь Янович, - попробовал я протестовать, хотя в глубине души и сам хотел увидеть это зрелище: целая группа, ведущая себя, как кролики возле удава.
- Ничего. Они слишком верят в самостоятельное могущество того, что создают или будут создавать. Скоро это станет религией. И тогда - конец. Или начало конца.
Я уже очень отвык от институтской обстановки. Половину аудитории занимали схемы, развернутые на больших вертикальных панелях. Студенты, человек тридцать, в основном ребята, только три девчушки и все трое в очках ("Бедняги, - успел подумать я, - что их занесло в кибернетику?"), сидели очень тихо и, как мне показалось, не волновались. Ренский волновался страшно. Совсем другой, в узком черном костюме, он казался моложе и жестче. Машина была очень невелика и действительно похожа на уродливо увеличенный глаз, торчащий на высокой подставке, как микрофон. За дверь, ведущую в заднюю комнату, уходили провода. Ренский сказал:
- Экзамен я начну принимать через сорок минут. Готовиться без книг, не разговаривать. Устройство машины я объяснял на консультации. Повторяю - она в точности имитирует глаз с запоминанием зрительных впечатлений. Во время ответа каждого машина сообщит мне, как он готовился - пользование книгой, разговоры, посторонние бумажки. Включите движок обзора! - крикнул он в соседнюю комнату. С легким жужжанием глаз начал вращаться. Это было неприятное и страшное зрелище. Он то смотрел прямо вниз, на передний стол, то поднимал свой неживой зрачок выше, и это самостоятельное существование глаза было ужасно. Студенты, очевидно, привыкли к нему за время консультаций, только одна девушка чуть побледнела и все время смотрела на глаз, ловя его взгляд.
- Я ушел, - сказал Ренский. - Готовьтесь.
В крошечном коридорчике - тамбуре между аудиторией и комнатой для приборов было полутемно. Он остановился и обернулся ко мне.
- Сигареты остались в плаще, - сказал я.
- Сейчас придет лаборант, - сказал он. - Я не должен был делать этого опыта. Я очень устал за последнее время. А зачатки страха, рожденного уважением к машине, вы сейчас увидите сами. Один кабель от приемных нейронов глаза включен на телевизионный канал - мне хотелось видеть их лица.
