Очевидно, что такие операции выполняются под постоянным контролем человека. Кажется, однако, что вмешательства врача-человека избежать невозможно, хотя бы даже исходя из эмоциональной ценности непосредственного контакта с пациентом. Возможная в отдаленном будущем полностью автоматизированная больница, в которой не только врачей, ассистентов, санитаров, но даже кухарок заменят машины, — не очень-то желаема. Задействованных в медицинской службе сложнейших устройств будет все больше, а врачей все меньше, но я не уверен, что этот процесс полезен и что он не пойдет в обратном направлении.
Oкончание статьи из еженедельника «Przekroj», №25/2001. Добавлю, что Станислав Лем по образованию медик: начинал обучение в 1940 году в Медицинском институте во Львове, а заканчивал уже после войны на медицинском факультете Ягеллонского университета в Кракове
Эссе написано в июне 1998 г.
1
Читателям газет уже известно, что федеральное правительство США вместе с толпой прокуроров, представляющих отдельные штаты, обвинило Microsoft, и тем самым Билла Гейтса, в попытках монополизации рынка браузеров. Так оба противоборствующих лагеря задействовали значительные силы: с одной стороны — мощный государственный аппарат, с другой — финансовый. Наблюдатели считают, что борьба в судебных заседаниях может длиться годами и что в случае проигрыша Гейтс потеряет около двух миллиардов долларов — это для него примерно то же, что для среднего польского гражданина потеря десяти грошей. И власти, и корпорация неминуемо будут бросать в бой доводы юристов и экспертов. Конечно, я не собираюсь становиться военным корреспондентом, следящим за ходом борьбы. Этот пример я в большой мере привожу потому, что обнаружил в своей электронной почте сожаления по поводу того, что в противовес моим былым лучезарным технологическим образам я сейчас рисую картины, «веющие страхом». Так складывается, однако, что то, что в Польше воспринято как посыпание пепла страха на мои давнишние прометеевские образы, в Соединенных Штатах получило положительную оценку благодаря посредничеству Сети. Американский корреспондент похвалил меня за «холодный душ», который я направил на интернетовские перипетии. Дело в том, что, как я и предполагал, при всей своей «бездонности» Интернет неизбежно засоряется информационными отходами, так как людей, желающих заявить о себе в мировом масштабе, несравненно больше, чем людей, имеющих хоть что-то разумное для сообщения. Информационные завалы затрудняют передачу существенной и важной информации, и в результате сейчас научно-исследовательские центры (например, университетские) разрабатывают систему соединений в Интернете, которая бы позволила осуществлять быструю и качественную связь вне океанов глупостей. Я полагаю, что под таким натиском начнет функционировать настоящий инкубатор сетей, предназначенных только для банковско-коммерческих отправителей и адресатов. Вместе с тем подобным сетям высшего уровня будет угрожать вторжение хакеров, всегда стремящихся туда, куда нельзя. Таким образом, начнется построение лабиринтоподобного информационного молоха, который будет все более и более усложняться и умножаться, ибо, как известно, надежных способов защиты информационных сетей и соединений от нежелательного вторжения нет. Но так как целостность всех этих объектов будет зависеть от изобретательности многочисленных шифровальщиков и дешифровальщиков и будет представлять собой типичный, перемещенный в сферу коммуникаций, образ атак, контратак и защиты, то есть деятельности, к которой испокон веков люди питают пристрастие, я на эту территорию вступать не собираюсь.
2
Как утверждают многие ученые, большинство открытий, на которых держится цивилизация, не являются результатом сознательных исследовательских работ; такие открытия чаще всего происходят случайно, когда, стремясь создать (синтезировать) некое А, не желая того, создают какое-то Б. Последним, очень поучительным примером этой случайности открытий является прогремевшая в средствах массовой информации мира как лучшее лекарство от мужской импотенции некая субстанция, на которой компания Pfizer зарабатывает огромные суммы: viagra. Но, конечно, компьютерное издание — не место для описания средств, превращающих импотентов в темпераментных самцов. Более подходящим примером будет, по-моему, короткий рассказ, подтверждающий принцип невольного достижения технологического прогресса без первоначального участия экспертов. Я имею в виду реализованные сначала в качестве развлечения конфликтные игры с участием так называемых норнов. Это псевдосоздания, которые пока могут существовать только в виртуальном компьютерном пространстве, оснащенном информационными программами, позволяющими совершать элементарные действия типа восприятия, так что норн может замечать что-либо и, следовательно, отличать виртуальную морковку от виртуального камня; съедая морковку, норн обогащается энергией, так как в том фантоматическом мире, в котором он существует, фантом морковки может преобразовываться в глюкозу или гликоген. Кроме того, у норнов есть симуляторы эмоциональных состояний, устанавливающихся просто цифрами от 1 до 256. С самого начала было так, что если норн замечал другого норна, то он мог вступить с ним в поединок — настолько акробатический, что создатели игры вскоре захотели превратить норнов в пилотов реактивных самолетов-перехватчиков, так как эти существующие в цифровом мире создания реагируют быстрее, чем человек. Мы же пока находимся только в стадии не очень благих пожеланий размещения искусственных пилотов в реальных самолетах, и такие работы уже ведутся.
Мне все это представляется лишь первыми метрами бесконечной дороги в том направлении, которое желательно для создателей искусственного интеллекта — до этого бессильных, потому что над элементарным сенсориумом норнов можно надстроить последующие операционные программы, очень сложные, но более результативные и более похожие на инстинктивные движения. Я не уверен, что случится именно так, но если мои предположения все же сбудутся, то XXI век окажется населен виртуально-фантоматическими тварями, которые сначала будут выполнять простые действия и напоминать, допустим, осу Sphex, которая безошибочно нападает на гусениц и впрыскивает им, живым, свои яйцеклетки, то есть сначала мы будем иметь дело с реализацией инстинктивного насекомоподобного поведения, которое сможет сделать людей-летчиков лишними. Таким образом, без участия человека началась бы эволюция тварей виртуального происхождения, облеченных в материю, но позже результаты этой начальной фазы, в которой то, что виртуально, преобразуется в то, что реально, могли бы иметь дальнейшие последствия, о которых даже страшно подумать.
3
В то время, когда я пишу эти строки, во Франции продолжается забастовка летчиков компании Air France, парализовавшая почти все воздушное движение над страной и сделавшая десятки тысяч людей жертвами спора между профсоюзом пилотов и работодателями. Ясно, что будущие поколения норнов могли бы заменить людей с такими трагическими последствиями для последних, что мы вошли бы в истинный ад безработицы. То, что я написал, звучит, возможно, несколько апокалиптически и вместе с тем фантасмагорично, но следует отметить, что полвека тому назад Норберт Винер в книге «Human use of human beings» предвидел возможность наступления эпохи безработицы, вызванной теми или иными последствиями автоматизации, которые все вместе будут внуками или правнуками кибернетики, чья концепция была заложена самим же Винером.
Эссе написано в июле 1998 г.
Понятием «душа в машине» — the ghost in the machine — некоторые психологи подкрепляют утверждение, что, якобы, человек является существом «двойственным», то есть состоящим из «материи» и «души».
Сознание является не технологической проблемой, так как конструктора не интересует, чувствует ли машина, а только интересует, действует ли она. Таким образом, «технология сознания» может появиться только «мимоходом»: вдруг окажется, что определенный класс кибернетических машин обладает субъективным миром психических переживаний.
Но каким образом можно узнать о наличии сознания в машине? Эта проблема имеет не только абстрактно-философское значение, ибо предположение, что некая машина, отправляемая на лом из-за того, что ее ремонт не окупится, обладает сознанием, превращает наше решение — уничтожить материальный предмет вроде граммофона — в акт уничтожения индивидуальности, осознанного убийства. Граммофон можно оснастить пластинкой и выключателем таким образом, что при попытке сдвинуть его с места он издавал бы крики: «Ах, умоляю, подари мне жизнь!» Как можно отличить такой, без сомнения, бездушный аппарат от мыслящей машины? Только вступая с ней в разговор. Английский математик Аллан Тьюринг (Allan Turing) в своей работе «Может ли машина мыслить?» предложил в качестве решающего критерия, который бы позволил уверенно отличить человека от машины, «игру в имитацию», заключающуюся в том, что мы задаем Кому-то произвольные вопросы и на основании ответов должны сделать вывод, является ли этот Кто-то человеком или машиной. Если мы не сможем отличить машину от человека, следует признать, что машина ведет себя как человек, то есть обладает сознанием.
