Ознакомительная версия.
— Поланд ничего не докладывал мне об этом.
— Потому что обе попытки окончились провалами, последствия которых к счастью не вышли за пределы лабораторий. В первом случае, «ИИ» настроенный на определенную совокупность моральных норм, попросту «рухнул» под грузом логических ошибок, стоило однажды подключить его к доступу в Интернет. Виртуальная среда, где люди все чаще находят место выражению собственных взглядов, вошла в жесткий конфликт с элементарными нормами поведения, которые мы с Хьюго сформулировали в качестве эквивалента мировоззрения для сложной нейросетевой структуры. Система в буквальном смысле погибла, под гнетом несоответствия ожидаемого и действительного.
— А чем закончился второй эксперимент?
Герберт, до этого взволнованно расхаживавший вдоль подиума, сел, безнадежно взмахнув рукой.
— Вышло еще хуже. Нейросетевой интеллект, которому мы позволили самому собирать информацию, в конечном итоге действительно выработал собственное мировоззрение. Но машина при этом осталась машиной, — у нее нет чувств, а значит ей не найти логического оправдания большинству человеческих поступков. В результате мы получили отрешенного наблюдателя, который оценивал человечество, как некую глобальную ошибку, выпадающую контекста общих законов природы. По мнению «ИИ» мы не венец эволюции, а неоправданно размножившийся вид млекопитающих, чье существование ведет к необратимой гибели биосферы и, как следствие, — исчезновению жизни на Земле как таковой.
Уилсберг понимающе кивнул. Некоторое время он удрученно размышлял над услышанным, а затем недоверчиво переспросил:
— И ты прекратил попытки?
Герберт искоса посмотрел на генерала.
— Нет. — Нехотя признался он. — Я разработал программу, которую назвал «Дарвин».
Уилсберг заинтересованно повернул голову.
— Можешь объяснить, в чем ее суть? — Спросил он.
Ричардсон ответил не сразу. Некоторое время капитан сидел, отрешенно глядя на экраны демонстрационной системы, а затем произнес:
— Это была попытка объединения параллельных структур, с тем, чтобы одни экспертные нейросети могли «учиться» у других, заимствуя недостающую информацию, при возникновении ультрасложных проблем. Сама по себе программа «Дарвин» не руководит непосредственными действиями машины, — она осуществляет связь между отдельными нейрочипами, одновременно инициируя в системе функцию «естественного отбора».
— И что это дает? — Воспользовавшись краткой паузой, спросил Уилсберг.
— Смысл данной функции заключен в том, что заранее известная информация, не подтвержденная поступающими извне данными, в конечном итоге признается ложной, и это позволяет избежать роковых логических сбоев. Кроме того, машина должна иметь резервные нейрочипы, структура которых формируется в процессе саморазвития, и если их работа ведет к стабильному результату, то исходные модули очищаются от неверной информации и переходят в состояние «резервных».
— То есть, внутри системы нейросети конкурируют друг с другом? — Заинтересованно уточнил Альберт.
— Приблизительно так. Выживают и продолжают работать только стабильные участки, машина постоянно достраивает собственную архитектуру, стремясь стать более совершенной.
— И это, по-твоему, не решение проблемы?!..
— Не знаю… — Честно признал Герберт. — Эксперименты с программой «Дарвин» не окончены. Между прочим именно исчезновение Хьюго затормозило ход работ. Я не в состоянии предсказать, как поведет себя подобная машина на поздних стадиях саморазвития, хотя эволюция программных модулей протекает в миллионы раз быстрее, чем аналогичный природный процесс.
— По-твоему такой механизм может стать опасным?
— Любое саморазвитие несет в себе определенную степень риска. Я все чаще и чаще задумываюсь, — зачем мы должны плодить и доводить до какой-то степени совершенства свои подобия, когда несовершенны мы сами?
— На этот вопрос я могу ответить. — Уилсберг тяжело встал. — Наша страна, по сути, находиться в состоянии войны с многоликим противником, чьи силы, будто проказа, расползлись по всему миру. Наши вооруженные силы в состоянии сломать хребет реальной армии, но мы не можем эффективно защитить своих граждан от непредсказуемых действий террористов-одиночек. Эта угроза витает в воздухе, она будет довлеть над нами, сеять панику, неуверенность, нестабильность. Да, мы раздавим гнезда терроризма, но останутся фанатики, шахиды, против которых бессильна армия. — Он обернулся к Герберту. — Я спрашиваю себя: мы должны жить в страхе? Или объявить войну всему миру? А может нам следует мобилизовать половину мужского населения и поставить армейскую палатку с взводом солдат у каждого дома?
Герберт сразу понял, в какую сторону клонит Уилсберг.
— Вы хотите сделать ставку на человекоподобные машины? — Он покачал головой в ответ собственным мыслям. — Нет, генерал, при всех технических преимуществах, которые обрисовал мне капитан Даллас, существует этическая сторона проблемы, есть общественное мнение, которое нельзя недооценивать…
Уилсберг невесело усмехнулся в ответ.
— Придется проявлять «гибкость мышления». — Процитировал он Герберту его же фразу и спросил: — Ты разве не заметил, что в окрестностях базы начаты масштабные строительные работы?
— Да, это бросается в глаза. — Согласился Ричардсон, который действительно видел огромные котлованы, где полным ходом шел монтаж металлических каркасов для будущих железобетонных конструкций.
— Сейчас строительные бригады заканчивают формировать фундамент для возведения принципиально нового города, который будет полностью автоматизирован, снабжен замкнутыми циклами жизнеобеспечения и станет первым самодостаточным мегаполисом, обладающим полной автономией. Благодаря конвектору вещества мы смогли наполнить реальным смыслом те проекты, что годами ждали своего часа. Нужно показать всему миру, что атака фанатиков сорвалась, а новая национальная идея поднимет уровень жизни американского народа на недосягаемые высоты технического прогресса. Только достижения в области высочайших технологий способны возвести неодолимый барьер между законопослушными гражданами нашей страны и разного толка экстремистами…
Герберт покосился в сторону демонстрационных экранов и произнес:
— Боюсь, что человекоподобные машины не будут восприняты, как гаранты новой стабилизации. Они скорее способны посеять смятение в умах обывателей, но никак не вернут им утраченный душевный покой.
— Смотря в каком качестве станут выступать созданные нами машины. — Веско возразил ему Уилсберг. — Не нужно зацикливаться на частностях. — Он протянул руку, взял пульт управления и выключил демонстрационную систему. — Операция в Афганистане явилась вынужденной мерой. На самом деле широкое внедрение андроидов в ряды вооруженных сил не входит в задачи нашей группы. Ни один из кибернетических механизмов, изначально не поступит на вооружение армии. Здесь создаются бытовые механизмы, Герберт, накрепко усвой это. Они призваны созидать, строить, обслуживать, и войдут в сознание миллионов людей как продвинутые образчики сложной, принципиально новой бытовой техники.
Ознакомительная версия.
