Сосредоточенные и суровые лица братьев поистине были прекрасны — казалось, мы древние воины халифата, возвращающиеся домой после праведного набега. Время летело стремительно, как слово Пророка, и вскоре вокруг сомкнулась блаженная вечерняя полутьма, а в небе засиял серп луны…"
12
А вот цитата совсем другого рода: это показания одного из технических экспертов Пентагона, который объясняет, почему зенитные кодексы Аль-Эфесби были окружены такой тайной. Одновременно он делает несколько любопытных и нетривиальных комментариев технического характера, из чего можно заключить, что он хорошо знаком с принципами действия нейронной сети:
"Разумеется, эти надписи были засекречены не потому, что содержали хоть слово истины. Дело в техническом эффекте, который они оказывали на систему — в условиях военного времени было бы безумием оставлять подобное оружие в руках врага. А по содержанию это была просто ложь, причем на столько очевидная, банальная и омерзительная, что наши условные американцы, обычные виртуальные ребята, которых генерировала система, просто-напросто хотели сказать этому русскому ублюдку, насколько глупы и отвратительны его поклепы.
И вот здесь происходило самое трагическое — но и интересное с научной точки зрения. Похоже, в нейронной сети возникало нечто похожее на эмоции. Несомненно, это самое точное приближение к человеческой реакции, достигнутое на сегодняшний день.
Это был совершенно непредусмотренный эффект — и именно на него уходили все имеющиеся ресурсы. Такова, если угодно, генетическая уязвимость нейронной сети, построенной по принципу человеческого мозга. Ведь мозг, как мы знаем, способен решать сложнейшие комплексные задачи, причем с удивительной скоростью, но нарушить его работу тоже несложно.
Представьте себе идущего по улице Эйнштейна, который одновременно размышляет об общей теории поля, обдумывает устройство атомной бомбы и мысленно играет на старенькой скрипке. И вдруг перед ним непонятно откуда появляется дышащий перегаром казак в наброшенной на плечи медвежьей шкуре, складывает немытые пальцы в русское подобие фингера — так называемый — "кукис", — подносит его к лицу ученого и говорит: "На-кось, жидовская морда, выкуси!"
Вполне вероятно, что Эйнштейн, несмотря на феноменальные способности своего мозга, не только перестал бы думать об отвлеченных физических проблемах, но побледнел бы, покачнулся и потерял равновесие. С системой "Freedom Liberator" происходило нечто похожее. Проекция пещерного мышления на сложнейшие нейронные сети двадцать первого века оказалась пугающе эффективной.
Но главная трагедия заключалась не в гибели техники. Целое столетие ученые и фантасты спорили о том, возможен ли рукотворный разум, и каким он будет. И вот реальность подвела под этими спорами черту. У нас есть все основания считать, что в тот момент, когда ресурсы системы "Free D.O.M." оказывались оторванными от выполнения боевой задачи и замыкались в подобии эмоциональной вольтовой дуги, в системе возникал искусственный интеллект.
По своему генезису этот интеллект был групповым и американским. Он появлялся перед гибелью каждого дрона — и именно его рождение было технической причиной катастрофы. Несколько секунд своего существования, пока "Freedom Liberator", кувыркаясь, несся к земле, этот разум невыразимо страдал от нанесенной ему несправедливой обиды. Это были как бы принудительные роды, которые заставляли гордо летящую в небе мать рухнуть вниз, из-за чего гибло и ее только что рожденное гениальное дитя. Этого чудовищного военного и гуманитарного преступления мы не простим русским ублюдкам никогда…"
13
Но может ли машина, пусть даже такая совершенная, как "Freedom Liberator", действительно чувствовать и страдать как человек? Понятно, как сложна эта тема — но вот мнение, которое кажется нам интересным.
Ниже мы цитируем "Свет любви без разговоров" преп. Ив. Крестовского, по странной случайности — одну из любимых книг Скотенкова.
"Спор о том, может ли машина мыслить, идет, наверно, с тех самых времен, как человек заметил, что мыслит и делает машины. Но сама эта постановка вопроса есть пример одной из тех чудесных несообразностей, которые вытекают из существования языка — главного магического инструмента человека.
Вот перед нами два предложения, строго и точно описывающие эмпирическую реальность:
Человек мыслит.
Машина жужжит.
Теперь мы делаем простейшую операцию — меняем местами подлежащие. У нас получились два других предложения: "человек жужжит" и "машина мыслит".
Раньше никакой мыслящей машины не было. Сейчас она как бы есть.
Именно этот простой фокус и лежит в фундаменте всей истории человечества, безумно разгоняющейся со времен неолита. Сначала человек с помощью слов описывает то, что есть. Затем он меняет порядки слов в предложениях и получает описание того, чего нет. А потом он пробует это сделать. Так появляется "воздушный корабль", "подводная лодка", "конституционная монархия" и "анальный секс".
Такова магия человека, выделяющая его из животных. Впрочем, можно считать это не магией, а чисто механической функцией, для которой даже не нужен какой-то там "интеллект", а достаточно лишь способности отражать возникающие при перестановках слов смыслы. В таком случае человек оказыватся просто машиной, управляемой хаотически перекатывающимися внутри нее шариками слов.
Но Бога можно обманывать только до тех пор, пока Он Сам желает быть обманутым. Человеческая магия сильнее зверей и птиц, иногда сильнее природы, но сильнее ли она того источника, откуда появляется человек и куда он уходит?
Вернемся к нашему примеру.
Вот предложение "человек жужжит". Несложно представить, скажем, заслуженного голливудского комика, который после переговоров с киностудией и завершения всех юридических формальностей улыбнулся в наведенный на него раструб объектива, сделал удивленное лицо и зажужжал — сначала тихонько, а потом все громче и громче, пока прячущийся в полутьме за камерой режиссер не начал, улыбаясь, махать в воздухе оттопыренным вверх большим пальцем. Здесь магия слов сработала.
А вот предложение "машина мыслит".
Мы можем сколько угодно соединять в разном порядке источники питания и микрочипы. Мы можем сделать очень сложное устройство. Оно будет выглядеть самым загадочным образом и станет решать невероятно трудные задачи. Но откуда в нем возьмется тот внутренний наблюдатель, который в каждом человеке следит за работой мысли?
Подобный наблюдатель по отношению к построенной человеком машине может быть только внешним. Им и будет сам человек. Мало того, у человека уже есть одна такая мыслящая машина — собственный мозг, который точно так же решает задачи и предъявляет результат своему внутреннему свидетелю.
