деле я не думаю, что это работает, но интересно рассмотреть этот аргумент, чтобы понять, где он ошибается.
Кельвин: Я не думаю, что человеческий интеллект достаточно силен, чтобы создать воображаемый разум, просто подумав о нем. Для сверхинтеллекта это совсем другое дело. Он мог бы внутренне моделировать разумные существа. Но это совсем другое предположение, чем то, что литературные персонажи в романе обладают сознанием или что мы можем быть такими персонажами.
Тессий: Да, давайте сосредоточимся на случае литературных персонажей в обычных книгах, написанных человеком. Откуда нам знать, что при чтении романа человек не получает достаточно информации и вычислений, чтобы описанные персонажи ожили настолько, что мы не можем быть уверены, что мы не являемся такими персонажами? Мы явно не представляем разум, состоящий из ста триллионов синапсов, когда читаем роман; но не кажется очевидным, что явное представление с такой степенью детализации было бы необходимо для получения субъективного опыта, о котором идет речь.
Кельвин: Хм. Думаю, главное - уловить контрфактические модели поведения. Не похоже, что мы делаем это, когда читаем о ком-то в книге.
Фирафикс: Не хотите рассказать подробнее?
Кельвин: Для осуществления вычислений недостаточно иметь последовательность репрезентаций последовательных состояний рабочей памяти. Необходимо также, чтобы причинно-следственная структура была такова, что при изменении любого из этих промежуточных состояний последующие состояния разворачивались бы по-другому, соответствующим образом.
Тессиус: Это разница между воспроизведением фильма о вычислениях и реальной реализацией вычислений. В фильме каждый кадр может содержать изображение состояния ячеек памяти. Если вы воспроизведете фильм, то увидите последовательность картинок сменяющих друг друга состояний ячеек памяти. Но если во время воспроизведения фильма вы зашли и отредактировали один из кадров, последующие кадры не изменятся. Так, в фильме о простых арифметических вычислениях один кадр может изображать "2+2", а следующий - "4". Но если вы измените первый кадр на "2+3", то на втором кадре по-прежнему будет "4". Это противоположно тому, как если бы вы действительно выполняли вычисления. Если бы вместо кинокатушки вы использовали карманный калькулятор, который действительно реализует вычисления, то на временном шаге после редактирования ввода на экране появилось бы число "5".
Фирафикс: Понятно. А как это связано с тем, что происходит, когда мы читаем роман?
Кельвин: Когда мы читаем или воображаем одного из героев романа, представляем ли мы в достаточной степени все его контрфактические модели поведения?
Тессиус: Может быть, один из способов понять это: Предположим, вы читаете о вымышленном персонаже, который пилотирует самолет во время Второй мировой войны. Но вы, читатель, никогда не пилотировали самолет. Ваш мозг никак не сможет выполнить вычисления, которые потребуются для успешного управления истребителем времен Второй мировой войны. Так как же тогда можно реализовать необходимые вычисления, которые бы точно воспроизводили опыт такого пилотирования?
Фирафикс: Нет, наверное, это невозможно... Но что, если мы рассматриваем случай, когда читатель находится на том же уровне, что и вымышленный персонаж, обладает теми же навыками и так далее.
Тессиус: Вы утверждаете, что существуют читатели, которые находятся "на одном уровне" с нами? Я, например, объявляю себя оскорбленным и обиженным.
Фирафикс: Я в первую очередь думал о том, не являюсь ли я вымышленным персонажем! Но если мы вымышленные персонажи в вымышленном мире, может быть, в мире, где происходит чтение, есть очень умные читатели?
Кельвин: Если бы читатели были сверхразумными и если бы их "чтение" состояло, по сути, из детального внутреннего моделирования нейронных сетей персонажей, описанных в романах, тогда да. Но мы не говорим здесь о гипотезе симуляции. Вместо этого мы обсуждаем безумное предположение о том, что мы можем быть персонажами истории, написанной и прочитанной обычными человекоподобными существами, верно?
Фирафикс: Ну, может быть, есть читатели, которые чуть умнее обычных людей, но не сверхразумные? Но, возможно, лучше сосредоточиться на случае, когда у нас есть вымышленный персонаж с достаточно ограниченными способностями, чтобы существовало хотя бы несколько читателей-людей, которые могли бы делать все то, что может делать этот вымышленный персонаж. Если мои способности ограничены, как я могу знать, что я не вымышленный персонаж? Или, я полагаю, экземпляр такого вымышленного персонажа, о котором читает и воображает какой-то конкретный читатель? В отличие от реального существа из плоти и крови?
Тессиус: Нитпик: вымышленные персонажи - если только это не научно-фантастическая история об андроидах - обычно изображаются из плоти и крови. И особенно если... вообще-то, забейте, извините. Э-э, хм...
Предположим, что вымышленный персонаж вспоминает о своей покойной матери. Вы, читатель, не знаете мать этого персонажа: вы никогда не встречались с ней и, предположим, даже не читали о ней. Как же тогда вы можете мысленно представить себе, что испытывал бы этот вымышленный персонаж, если бы он действительно что-то испытывал? И наоборот, если вы думаете о чем-то, что не было описано ни в одном романе, то как мог писатель или читатель породить те мысли, которые у вас возникают? Но сейчас, когда я произношу эти слова, мне приходит в голову очевидное возражение: как я могу знать, о каких мыслях мог писать тот или иной писатель? И как я могу знать, что мои мысли, когда я думаю о своей матери, на самом деле не являются мыслями какого-то читателя, когда он думает о своей матери или о какой-то другой случайной фигуре, похожей на мать, которую он создает в своем воображении?
Фирафикс: Ну?
Тессиус: У меня очень много мыслей. Маловероятно, чтобы какой-нибудь писатель - по крайней мере, человек - мог обдумать все эти мысли и записать их; или чтобы какой-нибудь читатель вызывал все эти мысли в процессе чтения романа... И, если быть до конца честным, не исключено, что в какой-то момент у меня могла возникнуть мимолетная мысль, которая не заслуживает того, чтобы быть записанной... Итак, тот факт, что у меня были все эти мысли, включая те, которые авторы не сочли бы достаточно значительными, чтобы записать их в своих романах, а читатели - чтобы детально представить в своем воображении: этот факт доказывает, что я на самом деле не являюсь персонажем романа.
Кельвин: Конечно, это предполагает, что у вас на самом деле были все эти мысли, которые, как вы утверждаете, у вас были.
Фирафикс: Я не хочу сомневаться, что у вас было много мыслей!
Кельвин: Нет, но если бы мы были вымышленными персонажами, то в этом вымысле мы могли бы быть изображены как персонажи, у которых было много мыслей.
Тессий: Это не сделает все эти мысли реальными.
Кельвин: Верно. В рамках художественной литературы может быть
