могли бы обосновать моральный статус - например, наличие сложного представления о себе как сохраняющемся во времени; способность к агентству и реализации долгосрочных планов; способность общаться и реагировать на нормативные причины; наличие предпочтений и полномочий; нахождение в определенных социальных отношениях с другими существами, имеющими моральный статус; способность брать на себя обязательства и вступать во взаимные соглашения; или наличие потенциала для развития некоторых из этих атрибутов. Если моральный статус может быть основан на любом из этих признаков, то появится дополнительный класс существ, которые не могут быть созданы без вступления в силу моральных обязанностей, которые могут ограничивать использование этих существ или обращение с ними.
Другие типы метафизических или номологических фактов, которые ограничивают диапазон утопических видений, реализуемых даже в принципе, связаны с условиями личной идентичности или со связью определенных видов опыта и субъективного опыта усилий. Мы вернемся к этим вопросам в последующих лекциях, поэтому сейчас я не буду подробно останавливаться на них.
Что машины не могут сделать за вас
Последний набор ограничений, о которых я хочу поговорить сегодня, - это ограничения на автоматизацию. Они актуальны в нескольких отношениях. Если смотреть на них с одной стороны, то можно сказать, что они ограничивают то, чего мы можем достичь, передав выполнение задач машинам. Если посмотреть с другой стороны, то эти же ограничения определяют, какие задачи нам еще предстоит выполнить. Последнее важно, поскольку мы имеем дело с проблемой цели, о которой говорили Гейтс и Маск. Мы вернемся к этому завтра, но я просто хотел сказать, что пределы автоматизации могут - парадоксальным образом - представлять проблемы для утопического видения в обоих случаях: не позволяя нам разгрузить машины, так что мы должны продолжать нести это бремя сами; или позволяя нам разгрузить машины, так что мы становимся бесполезными и безработными.
Помимо того, что это имеет отношение к данной дилемме, нас также может интересовать вопрос о том, какая работа останется для нас в будущем (если все пойдет хорошо), и сбудется ли предсказание Кейнса о 15-часовой рабочей неделе или, возможно, о каком-то еще более экстремальном состоянии, когда мы вообще не будем работать.
Прежде всего, я хотел бы сделать одно предварительное замечание: люди иногда недооценивают то, что требуется для полной автоматизации работы.
Например, кто-то может посмотреть на диджея и сказать: "У нас уже есть технология, чтобы автоматизировать это. Мы можем запрограммировать трек-лист, который будет играть в течение всего вечера, не требуя вмешательства человека". Сделав такое заявление, а затем заметив, что диджеи-люди все еще работают, можно сделать вывод, что даже когда работа станет автоматизированной, во многих случаях ее по-прежнему будут выполнять люди.
Но почему? Возможно, потому, что клиенты предпочитают услуги человека, когда могут себе это позволить. Или они могут сказать что-то вроде: "Ну, автоматический диджей может справиться с этой работой, но, знаете, это не то же самое. Всегда будет что-то, то уникальное человеческое прикосновение, которое ни одна машина не сможет повторить".
Я думаю, что, хотя эти рассуждения и могут привести к чему-то близкому к правильному выводу, способ, которым они достигаются, слишком поспешен. Мы можем получить больше понимания и построить более точные интуиции (которые пригодятся позже), если замедлимся и рассмотрим вещи немного тщательнее.
Рассмотрим проигрыватель с запрограммированным списком воспроизведения - то, что мы можем легко собрать сегодня. Действительно ли он способен выполнять ту же работу, что и диджей? Ну, не совсем. Хороший клубный диджей, например, использует экспертные знания о музыкальном жанре, чтобы выбрать треки, которые хорошо сочетаются друг с другом и подходят для конкретного случая. Он или она может адаптировать подборку в режиме реального времени, читая толпу и решая, когда нужно завести ее, а когда утихомирить, и когда выпустить бэнгер. Он может расхаживать за своим мигающим оборудованием и выглядеть занятым; он может делать кричалки и объявления. Он будет излучать заразительную позитивную энергию. Он может смешиваться с толпой и появляться на вечеринках. Фирменный диджей, соглашаясь на выступление, дает понять потенциальным гостям, что это будет большая ночь, и таким образом служит маяком для всех, кому нравится данная сцена и кто хочет повеселиться с единомышленниками. Учитывая сравнительные недостатки проигрывателя пластинок во всех этих аспектах, неудивительно, что спрос на диджеев-людей все еще существует. Однако, если эти недостатки не сохранятся и в период технологической зрелости, это ничего не говорит нам о конечных перспективах человеческой занятости.
И очевидно, что многие из этих недостатков будут преодолены с помощью достаточно развитых технологий. Роботизированный диск-жокей сможет выбрать подходящий трек-лист, сможет читать толпу и реагировать на нее соответствующим образом, сможет танцевать и выглядеть занятым. Он также сможет посещать вечеринки, болтать с гостями и даже делать романтические предложения - почему бы и нет? В принципе, он также может приобрести репутацию, которая позволит ему выполнять сигнальную функцию знаменитого диджея.
То же самое можно сказать и о многих других профессиях. Например, психотерапевта. При достижении технологической зрелости виртуальный или роботизированный ИИ-психотерапевт будет обладать превосходной эмпатией, психологической проницательностью и способностью принимать терапевтическую позицию, а также сможет запоминать каждое слово, произнесенное пациентом. Возможно, он научится на миллионах предыдущих встреч и будет точно знать, что работает, а что нет. Таким образом, он будет точно знать, как слушать и как реагировать. Он будет использовать правильный тон голоса, правильное выражение лица, правильный язык тела. Если несовершенства улучшают впечатления пациента, то у него будут именно такие несовершенства - ничего чрезмерно гладкого или сверхъестественного, как это принято изображать в голливудских фильмах. Он просто должен быть действительно очень хорош в роли терапевта.
Я говорю все это для того, чтобы убедиться, что, когда мы пытаемся рассмотреть конечные пределы автоматизации, мы представляем себе правильный случай - тот, в котором мы действительно обладаем полным набором возможностей технологической зрелости. К ним относится способность создавать роботов, обладающих всем набором когнитивных, ручных и презентационных возможностей превосходного человека-практика. И, конечно, они выходят далеко за эти рамки.
Так что давайте спросим: при технологической зрелости есть ли что-то, что не может быть сделано машиной лучше?
Чувство и моральное терпение?
Что касается примеров с терапевтом и диджеем: предположим, что в этих контекстах нам нужно не только внешнее поведение (даже во всех его тонкостях, как я их описал), но и внутренний опыт, который человек-практик испытывал бы при выполнении этих задач. Клиентка может хотеть не только, чтобы ее терапевт выражал сочувствие, но и чтобы терапевт действительно чувствовал сочувствие. Рейвер может хотеть, чтобы диджей действительно наслаждался музыкой, а
