Ознакомительная версия.
Принято считать, что создаваемые машины будут настолько же хороши, насколько хороши мы сами.
Однако любое из приведённых выше утверждений может изменить смысл либо вовсе утратить всякую предсказуемость в том случае, если мы, продолжая движение по пути прогресса различных отраслей знания, перестанем обращать внимание на этические нормы.
Рано или поздно возникнет ситуация, когда будет подведён итог и названа цена неоправданному стремлению к богоподобию.
Первый шаг к пропасти был сделан при конструировании механизмов, идентичных человеку по своей форме и строению опорно-двигательного аппарата. Поначалу — не более чем забавные игрушки — они внезапно пережили стадию усовершенствований, и человечество получило первых андроидов — механических людей, успешную форму, ещё не наполненную содержанием.
Никто не задал вопроса: зачем? Зачем мы создали их?
Человек — венец природной эволюции, он отражение миллионнолетнего естественного отбора, но возможности сервомеханики много шире, и совершенство с точки зрения инженерной мысли подразумевает совершенно иные формы воплощения идеального механизма».
Здесь Дрейк прервал чтение. Осмысливая суть информации, он представил механизмы, атаковавшие рудодобывающий комплекс. Ни одна из баз данных не содержала их классификации, но последнее утверждение (из прочитанного) заставило его произвести глубокий сравнительный анализ, сопоставляя отдельные компоненты чужеродных машин с хранящимися в памяти схемами известных устройств.
Он достаточно быстро пришёл к выводу: аппараты, столь эффективно разрушившие систему комплекса, являлись не чем иным, как доведёнными до определённой степени конструктивного совершенства охранными ботами.
Мысль о самостоятельной эволюции узкоспециализированных механизмов, на взгляд Дрейка, не выдерживала критики. Их кто-то сознательно усовершенствовал.
Отметив этот факт, он вновь вернулся к изучению данных с древнего носителя.
«…Гораздо проще создать десяток машин узкой специализации, каждая из которых станет успешно и эффективно исполнять предначертанную ей задачу, чем внедрять в производство сложные человекоподобные комплексы.
Андроидам изначально предопределена роль бытовых механизмов, но создание внешне привлекательной оболочки лишь малая часть технической задачи. Необходимо наполнить форму уникальным содержанием, выгодно разнообразить набор исполняемых функций, дать человекоподобной машине способность к поддержанию осмысленного диалога с хозяином, исполнения мелких поручений и т. д., иначе покупатель сделает выбор в пользу неприхотливой, надёжной, а главное — апробированной техники.
Всё вышеперечисленное прекрасно понимают разработчики. В конечном итоге андроиду придётся конкурировать на рынке продаж со множеством удобных и надёжных механизмов узкой специализации, прочно укоренившихся в быту.
Однако это не останавливает производителей. Ведущие корпорации вкладывают баснословные средства в создание человекоподобных машин, разрабатывая для них принципиально новую программно-аппаратную базу, функционирующую на основе искусственных нейроподобных сетей.
Мы шаг за шагом приближаемся к пропасти. Создание копии человека требует всё новых и новых технических решений, лежащих не на грани, а уже за чертой фола. Жёстко заданные габариты изделия привели конструкторов к внедрению в схему андроидов нейромодулей, созданных на основе клонированных нервных тканей человека.
Что это — шаг на новую ступень научно-технического прогресса или неоправданное стремление к богоподобию? Мы создаём подобные себе механизмы, практически не нуждаясь в них, не задумываясь над вполне вероятной ситуацией, когда человекоподобная машина, в силу особенностей амбициозных колониальных проектов, вдруг окажется предоставлена самой себе, по сути — брошена в бурлящий водоворот естественного отбора, где, как известно, выживает сильнейший».
Дрейк вновь прекратил чтение.
Информация прямо указывала на неких существ, которые создали андроидов по своему подобию. Однако он был вынужден признать, что не имеет никакого представления о людях.
Если данная информация имелась в прошлом, то после нескольких стерилизаций и последующего накопления «жизненного опыта» она была утрачена.
Былой смысл существования растворился, исчез вместе со многими, бессмысленными с точки зрения данности программами, лишь занимавшими место в устройствах долгосрочной памяти.
Дальнейшее изучение содержания древнего устройства лишь подтвердило сделанный вывод.
«Нужен ли нам искусственный разум? На данном этапе я сомневаюсь, что он жизненно необходим. Пока в самом человеке заложен далеко не раскрытый интеллектуальный потенциал, мы можем и должны развивать собственный разум.
Если же Искусственный Интеллект будет создан в качестве прикладной машины (ради самоутверждающегося научного эксперимента, не обоснованного конкретной необходимостью, а лишь позволяющего заявить: „Смотрите, мы в состоянии это сделать“), ни к чему хорошему подобная практика не приведёт. Осознав факт собственного бытия, полноценный ИИ инициирует собственный анализ действительности и с неизбежностью придёт к выводу, что его создатели не так совершенны, как он сам. Последствия могут оказаться трагичными. Думаю, нам уже сейчас следовало бы провести черту, за которую переступать опасно и преждевременно. Нет смысла создавать свои подобия, пока мы не реализовали собственный потенциал интеллектуального развития…»
Дальше текст обрывался.
Новый массив данных являлся его продолжением, но речь в нём шла о несколько иных аспектах развития сервомеханизмов:
«…На данном этапе нам предлагают идею автономного, машинного терраформирования планет, обнаруженных в удалённых звёздных системах. То есть предполагается создание самодостаточных роботизированных комплексов, которые подготовят планету к предстоящей колонизации. Они преобразуют биосферу, проложат дороги, возведут города. В замысле достаточно небольшого количества кибернетических механизмов, главное, чтобы они сумели наладить добычу ресурсов и начать воспроизводство узкоспециализированных систем, которые станут исполнять все запланированные в проекте работы по преобразованию.
Здесь скрыта серьёзная, опять-таки недопонятая (или сознательно проигнорированная в погоне за прибылью) угроза: предоставленные самим себе машины могут выйти из-под контроля локальных систем. Если по какой-то причине будут повреждены их базовые программы, то нетрудно предсказать, что станет с проектом. В лучшем случае механизмы просто остановятся, однако уже сейчас мы имеем образцы сервомашин, у которых функция самоподдержания фактически неуничтожима.
Ознакомительная версия.
