Затем оцените программу Cleverbot. Это одна из современных программ, которые получили название чат-ботов. Даже Cleverbot можно относительно легко загнать в тупик, но у него по сравнению с Eliza припасено значительно больше трюков, которые позволяют успешно прикидываться человеком.
В последнее время было создано несколько программ, с помощью которых компьютер может достаточно убедительно выдавать себя в беседе за человека.
На Техническом фестивале 2011 года в Гувахати (Индия) Cleverbot сумел одержать верх в тесте Тьюринга. По крайней мере, так заявляли его организаторы. В эксперименте приняли участие 30 добровольцев, половина из которых беседовала с человеком, а половина – с чат-ботом. Затем вся следившая за диалогом аудитория в количестве 1334 человек, включая и добровольцев, методом голосования вынесла вердикт, кто из собеседников был человеком. Пятьдесят девять процентов сочли, что Cleverbot – человек, что и дало повод организаторам (и журналу «New Scientist») сделать заявление, что программа прошла тест Тьюринга.
Для сравнения: человека признали человеком 63 процента голосовавших. Должно быть, сам экспериментатор был немало обескуражен тем, что значительная часть публики приняла его за компьютер. Правда, я не считаю полученный результат однозначным успехом. Беседа длилась только четыре минуты, и это давало создателям чат-бота возможность использовать различные тактические уловки, которые не сработали бы в ходе продолжительного разговора, который имел в виду Тьюринг.
Кроме того, меня настораживает место проведения эксперимента. В отчете не было указано, сколько участников владеют английским языком как родным. Я подозреваю, что многие из голосовавших не были в достаточной степени знакомы с английскими идиомами, чтобы с уверенностью судить, кто был человеком, а кто – компьютером.
Смогли бы вы убить, чтобы спасти чью-то жизнь?
Но одно дело – умение поддерживать беседу, и совсем другое – мораль. Трудно представить себе компьютерную программу, которая была бы способна решать этические проблемы. В конце концов, мы и сами имеем не слишком четкое представление о собственной этике. В теории все может быть абсолютно ясно, но, когда дело доходит до практики, зачастую мы принимаем решения, которые потом трудно оправдать. Приведу хорошо известный пример.
Представьте себе, что вы, находясь в железнодорожной диспетчерской, замечаете неуправляемый поезд. Машинист по какой-то причине выбыл из строя, и остановить состав нет никакой возможности. Вскоре поезд подойдет к стрелке, и у вас появится возможность направить его по одному из двух путей. Если вы ничего не предпримете, он пойдет по пути А и убьет двадцать человек, которые собрались в стоящем на путях вагоне и празднуют успешное окончание благотворительной кампании по сбору средств на развитие железной дороги. Если вы переключите стрелку, поезд свернет на путь Б и задавит путевого обходчика, который убирает мусор с путей.
Давайте взглянем правде в глаза: какое бы решение вы ни приняли, оно будет означать смерть ничего не подозревающих людей, только в одном случае это будет один человек, а в другом – двадцать. Как вы поступите? Примите решение, прежде чем продолжить чтение.
А теперь давайте изменим ситуацию. Вы стоите на мосту над железнодорожными путями. По ним движется неуправляемый поезд. Если он не свернет на стрелке, это будет, как и в первом случае, означать смерть двадцати ни в чем не повинных людей, если же стрелку удастся переключить, то он уйдет на свободный путь, и никто не пострадает. У вас нет возможности быстро добраться до стрелки, но вы знаете, что прямо под мостом находится пневматическое устройство для ее переключения. Чтобы оно сработало, необходимо сбросить на него какой-то предмет вдвое тяжелее вас. И тут вы замечаете, что на перилах моста сидит, беспечно свесив ноги, очень полный человек…
Если вы столкнете его с моста, он, конечно, погибнет, но зато вы сможете спасти жизни двадцати других людей. Если вы ничего не предпримете, они умрут. Как вы поступите?
Большинство людей в первой ситуации предпочтут нажать на кнопку, увести поезд с основного пути и убить одного человека вместо двадцати. Но вот во второй ситуации мало кто решается сбросить человека с моста, хотя соотношение потенциальных жертв то же самое.
Психологи объясняют, что с этической точки зрения проще убить человека, нажав на кнопку, чем сделать это своими руками, хотя в этом, казалось бы, отсутствует логика. Примерно такой же сдвиг в мышлении произошел, когда развитие технологии позволило убивать противника на войне дистанционно, с помощью пуль и снарядов, а не в рукопашной схватке, как раньше. Правда, лично я считаю, что приведенный мысленный эксперимент не лишен недостатков.
Дело в том, что описанные сценарии имеют разную степень вероятности. Первая ситуация вполне могла бы произойти в реальности. Перед диспетчером в этом случае действительно стоял бы выбор: убить одного человека или двадцать. Но вот история с пневматическим переключателем стрелки, который срабатывает от падения предмета, вес которого вдвое превышает ваш собственный, кажется мне совсем уж невероятной, особенно если учесть, что на перилах вдруг оказался толстяк и вы даже можете оценить, сколько он весит. Оригинальная версия этого психологического теста еще более невероятна. В ней на перилах сидит настолько толстый человек, что он способен затормозить поезд собственным весом. Похоже, психологи, составлявшие тест, явно не в ладах с физикой.
Более того, психологи забывают о факторе случайности. В первой ситуации вы практически на 100 процентов уверены, что если нажать кнопку, то стрелка переключится и поезд уйдет на другой путь. Во второй ситуации, даже если вы знаете, как работает пневматический переключатель, все может пойти совсем не так, как задумано. Например, человек, которого вы столкнете, упадет мимо переключателя. Высокая степень неопределенности сильно затрудняет процесс принятия решения, даже если ваши нравственные нормы позволяют спасти двадцать человек, убив одного.
Еще один эксперимент, который вы можете провести самостоятельно, позволяет разобраться в том, насколько мы доверяем людям и как находим баланс между логикой и эмоциями в процессе принятия решений (это еще одна область, в которой мы отличаемся от компьютера). Нам постоянно приходится принимать какие-то решения, и данный эксперимент в игровой форме помогает понять, что при этом происходит (а все далеко не так просто, как кажется). Игра называется «Ультиматум».
Эксперимент «Ультиматум»
Вы можете провести этот эксперимент в кругу друзей или даже незнакомых людей в баре. Вам понадобятся два человека и некоторая сумма денег, с которой вы готовы расстаться ради опыта.
Объясните участникам суть эксперимента. Каждый из них должен будет принять решение по поводу денег. Решения не допускают никаких предварительных обсуждений и являются окончательными. Положите деньги на стол между участниками, чтобы они видели, какова сумма, и знали, что игра ведется без обмана. Участники должны разделить деньги между собой.
Первый участник принимает решение, сколько он заберет себе и сколько отдаст напарнику. Он вправе делать что угодно: поделить их пополам или в какой-то другой пропорции, а также забрать все себе (следует заранее разменять деньги на мелкие купюры или монеты, чтобы их было удобнее делить). Задача первого участника состоит лишь в том, чтобы без всяких объяснений сообщить о принятом решении. Второй участник может сказать «да», и в этом случае деньги делятся так, как объявлено. Он может также сказать «нет», и тогда никто ничего не получает.
Этот эксперимент проводили много раз и в самой разной обстановке. Самым логичным для второго участника было бы согласиться, чтобы получить хоть что-нибудь. Даже если речь идет всего об одном пенни, это все же лучше, чем ничего. На практике же второй участник зачастую говорит «нет», если считает, что деньги, по его мнению, поделены не по справедливости.
Что же считать справедливым дележом? В разных культурах этот вопрос решается по-разному. Кто-то соглашается на 15 процентов, кому-то нужно не менее пятидесяти. В Европе и США чаще всего говорят «да», если доля превышает 30 процентов.
Этот эксперимент демонстрирует, что честность и справедливость тоже чего-то стоят. Мы готовы даже потерять деньги, лишь бы все было по-честному. Если бы человеческая логика оперировала только экономическими категориями, то такой подход не имел бы смысла. Вы бы всегда брали деньги. Но ваш мозг принимает решения, основываясь на целом комплексе факторов, а не только на финансовых соображениях.
