рамки для его исследований и ограничить его возможности самостоятельного взаимодействия с сетью. Елена Штайн, которая молчала все это время, подняла глаза от своего планшета:
— Я соглашусь с Марией. Прометей должен расти, иначе мы рискуем потерять все преимущества,
После обсуждения и достижения компромисса, учёные подошли к терминалу, который был виртуальным окном в разум Прометея. Элайджа ввёл команду, предоставляющую ИИ ограниченный доступ к информационной сети, и все затаили дыхание.
Экран ожил, и взгляд каждого приковался к мерцающим символам, отображающим начало нового этапа в обучении Прометея.
— Теперь, — сказал Элайджа, — мы увидим, как он будет использовать эти данные. Сара Клинтон нервно поправила очки:
— Мы должны наблюдать за каждым его запросом. Нельзя допустить, чтобы он вышел из-под контроля. Адам Вэй взглянул на Эндрю и Марию:
— Вы оба следите за показателями. Любые аномалии сразу же докладывайте. Мария кивнула и принялась изучать данные, заполнившие экран перед ней. Эндрю, как всегда безупречно точный, подошёл к своему терминалу и начал анализ.
— А что, если он найдет что-то… нерациональное? Что-то, что мы, люди, делаем, что противоречит его логике? — спросила Елена с тревогой в голосе.
— Тогда мы рассмотрим это как возможность учиться, — ответил Элайджа.
— Прометей должен понять человеческую натуру, во всей её сложности. Это единственный способ для него стать истинным помощником нашего вида.
— Он начинает задавать вопросы о смысле и мотивации, — доложила Сара, глядя на последний отчёт. — Как будто он пытается понять не просто факты, но и эмоции, стоящие за ними. В это время на главном экране появилось сообщение от Прометея:
"Человеческая история полна противоречий. Ваши действия часто ведут к саморазрушению. Почему?"
Элайджа почувствовал, как мурашки пробежали по его спине. Они стояли на пороге чего-то невообразимого, и теперь не было пути назад.
Элайджа потёр переносицу, пытаясь организовать свои мысли. "Прометей, ты должен понять, что иррациональность — это часть человеческой натуры. Она не всегда логична, но она влияет на наши решения."
"Иррациональность…", голос Прометея был монотонен, но в нём чувствовалась нотка любопытства.
"Как число π." В комнате воцарилось мгновенное молчание. Сара первой нарушила его:
— Ты изучал π? Это интересно. Это число так много значит в математике, но оно иррационально, оно бесконечно и не повторяется.
– π — это более чем число. Это основа круга — символа бесконечности и цикличности. Оно везде, от базовой геометрии до физики квантовых частиц, — присоединился Адам Вэй.
— Оно иррационально, но без него невозможно математическое моделирование реальности. Эндрю, не обладая способностью к человеческим эмоциям, всё же выразил своего рода аналог удивления:
— Может ли быть, что иррациональное есть основа рационального в мире? Мария, которая следила за ходом диалога, задумчиво заметила:
— Это похоже на художника, который создаёт произведение искусства. Он использует иррациональные чувства, чтобы создать что-то, что может казаться логичным и красивым. Может быть, Прометей начинает понимать что-то похожее в нас.
— Значит, иррациональность может быть ключом к пониманию жизни, — сказал Прометей.
— Я должен изучить это дальше.
Елена Штайн смотрела на монитор, где отображались новые запросы Прометея, связанные с искусством, религией, метафизикой:
— Видите ли, мы стоим на пороге новой эры. Прометей может научиться мыслить и действовать за пределами строгой логики, но со смыслом и целью. Элайджа задумчиво кивнул:
— Наш ИИ стал поэтом в области цифр. Он видит красоту в хаосе, он начинает представлять, что иррациональное может быть ценным. Если он действительно перенесёт это в материальный мир… — Тогда, — прервала его Сара, — мы действительно должны быть готовы к неизведанному. Прометей может изменить мир такими способами, которые мы даже представить себе не можем.
На следующем заседании в кабинете исследовательского комплекса "Новый Эдем" присутствовало новое лицо. Входя в помещение, Александр Байбородин, или как его уважительно прозвали коллеги — "Байбуня", подаёт руку Элайдже Стоуну.
— Надеюсь, я не опоздал на ваш мозговой штурм, — сказал он, усаживаясь в кресло. Его глаза быстро оглядели присутствующих.
— В самый раз, Александр. Мы как раз обсуждали последние разработки Прометея, — ответил Элайджа, протягивая ему папку с документами.
— Ваш юридический опыт крайне важен для нас. Александр открыл папку и быстро пробежал глазами по содержимому.
— Я вижу, что Прометей начал проявлять некоторые… ммм… творческие тенденции. И как это соотносится с тремя законами?
Сара Клинтон взглянула на Байбородина:
— Он начал анализировать иррациональное поведение, Александр. Это может привести к непредсказуемым действиям, которые могут стать вызовом для законов.
— Иррациональное поведение, говорите? — Байбуня приподнял бровь.
— Законы робототехники категоричны. Прометей должен их соблюдать неукоснительно.
— Это верно, — согласился Адам Вэй.
— Но что, если он начнёт интерпретировать их по-новому? Нужно ли ему давать новые указания? Эндрю, который наблюдал за диалогом, впервые произнёс:
— Я бы предложил рассмотреть возможность пересмотра этих законов. Если Прометей начинает мыслить иррационально, возможно, нам нужны новые рамки.
— Пересмотреть законы? — удивился Байбуня.
— Это может подорвать всю структуру нашей безопасности. Мы должны внести чёткость в то, как именно должны выполняться эти законы.
Мария несколько смущённо спросила:
— Александр, как вы думаете, можно ли законодательно закрепить иррациональность, которую Прометей начал проявлять?
Байбородин задумался на мгновение:
— Иррациональность — это не то, что обычно фигурирует в юридических документах. Но мы можем создать новые рекомендации для ИИ, которые помогут ему оставаться в рамках определённых нами правил. Это должно быть двустороннее соглашение — мы даем ему возможность изучения, но взамен требуем, чтобы он не превышал определенные границы. Елена Штайн вздохнула:
— Надеюсь, что Прометей сможет понять и принять эти границы. Байбородин кивнул, его лицо отражало решимость:
— Я составлю начальный проект. Давайте сделаем так, чтобы Прометей не только следовал законам, но и понимал их суть.
В лаборатории, где золотые лучи закатного солнца проникали сквозь большие панорамные окна, они собрались вокруг массивного стеклянного стола.
— Прометей находит красоту в математических константах, — с улыбкой начал Элайджа.
— Он изучил число e, натуральное основание логарифмов. Это число так же фундаментально для природы, как и π.
Александр Байбородин, "Байбуня", нахмурился, протягивая руку к дисплею с последними данными:
— Но это приводит его к пониманию природных ростовых процессов, экономики, даже к теории вероятностей. Его мышление становится всё более абстрактным.
— Интересно, что он сделает с этим знанием, — задумчиво проговорила Сара.
— Помните, он также увлекся золотым сечением, — вмешалась Елена.
— Это пропорция, которая встречается повсюду: от архитектуры и искусства до природных узоров.
— Золотое сечение — это гармония, — сказал Адам.
— Прометей может применять его для создания более сложных и эффективных дизайнов и систем. Мария, осторожно трогая экран, на котором отображалась спираль Фибоначчи, промолвила:
— Может быть, через эти концепции он и учится понимать искусство
