Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

мозаику молекулы воды при низкой температуре. Молекулы воды состоят из кварков. Что, если окажется, что кварки состоят из чего-то еще? Что же тогда такое снежинка? Вы не знаете — но это всё равно снежинка, а не пожарный гидрант.

И конечно, сами эти абзацы, которые я только что написал, тоже лежат гораздо выше уровня кварков. «Восприятие белого вещества, его визуальная классификация и мысли вроде "снег" или "не снег"» — это тоже разговоры на уровне далеко над кварками. Так что мои метаубеждения — тоже долговые векселя для вещей, о которых Идеальный Всеведущий Научный Интерпретатор мог бы знать: какие именно конфигурации кварков (или чего-то еще), составляющих мой мозг, соответствуют «убеждению "снег белый"».

Но в таком случае всё наше понимание реальности состоит из долговых векселей подобного рода. Поэтому вместо того, чтобы называть это порочным кругом, я предпочитаю называть это самосогласованностью.

Это может слегка тревожить — балансировать на шатком эпистемическом уступе — как в убеждениях предметного уровня, так и в рефлексии — высоко над огромной неизвестной фундаментальной реальностью, лежащей в основе всего, и надеяться не сорваться вниз.

Если поразмыслить, впрочем, трудно представить, как всё могло бы быть иначе.

В конечном счете утверждение «реальность не содержит рук как фундаментальных, дополнительных, отдельных причинно-следственных сущностей, существующих помимо кварков» — это не то же самое, что утверждение «рук не существует» или «у меня нет рук». Не существует фундаментальных рук; руки состоят из пальцев, ладоней и больших пальцев, которые, в свою очередь, состоят из мышц и костей, и так далее до полей элементарных частиц, которые, насколько нам сейчас известно, и являются фундаментальными причинно-следственными сущностями.

Это не то же самое, что говорить: «никаких "рук" нет». Это не то же самое, что говорить: «слово "руки" — это долговой вексель, который никогда не будет оплачен, потому что ему не соответствует никакой эмпирический кластер»; или «вексель "рук" никогда не будет оплачен, потому что логически невозможно согласовать его предполагаемые характеристики»; или «утверждение "у людей есть руки" относится к осмысленному положению дел, но реальность не находится в этом состоянии».

Просто: существуют паттерны, которые существуют в реальности там, где мы видим «руки», и у этих паттернов есть кое-что общее, но они не фундаментальны.

Если бы у меня действительно не было рук — если бы реальность вдруг перешла в состояние, которое мы бы описали как «у Элиезера нет рук», — то вскоре после этого реальность стала бы соответствовать состоянию, которое мы бы описали как «Элиезер кричит, пока кровь хлещет из обрубков его запястий».

И это истинно, даже несмотря на то, что в абзаце выше не было указано никаких положений кварков.

Предыдущее предложение точно так же метаистинно.

Карта многоуровневая, территория — одноуровневая. Это не значит, что высших уровней «не существует» — как если бы вы искали в своем гараже дракона и ничего там не обнаружили, или как если бы вы увидели мираж в пустыне и ожидали пригодную для питья воду там, где пить нечего. Высшие уровни вашей карты не ложны и не лишены референта; у них есть референты на единственном уровне физики. Не то чтобы крылья самолета не-существовали — иначе самолет упал бы с неба. «Крылья самолета» существуют явно в многоуровневой модели самолета у инженера, и крылья самолета существуют неявно в квантовой физике реального самолета. Неявное существование — это не то же самое, что несуществование. Точное описание этой неявности нам неизвестно — оно не представлено на нашей карте в явном виде. Но это не мешает нашей карте работать и даже не мешает ей быть истинной.

Хотя немного не по себе осознавать, что абсолютно каждый концепт и убеждение в вашем мозгу, включая эти метаконцепты о том, как работает ваш мозг и почему вы способны формировать точные убеждения, балансируют на много-много порядков выше реальности...

*

221. Зомби! Зомби?

Ваш «зомби», в философском понимании этого термина, — это якобы существо, в точности похожее на вас во всех отношениях: идентичное поведение, идентичная речь, идентичный мозг; каждый атом и кварк находится в точности таком же положении и движется по тем же причинно-следственным законам движения — за исключением того, что ваш зомби не обладает сознанием.

Более того, утверждается, что если зомби «возможны» (термин, вокруг которого всё еще ведутся баталии), то, чисто из нашего знания об этой «возможности», мы можем априорно вывести, что сознание внефизично — в смысле, который будет описан ниже; стандартным термином для этой позиции является «эпифеноменализм».

(Для тех, кто не знаком с понятием зомби, подчеркну: это не соломенное чучело. См., например, статью в Стэнфордской философской энциклопедии, посвященную зомби. «Возможность» существования зомби признается значительной частью, если не большинством, академических философов сознания.)

Я как-то читал: «Вы — не тот, кто озвучивает ваши мысли, вы — тот, кто слышит их». В иврите слово, обозначающее высшую душу — ту самую, которую Бог вдохнул в Адама, — это Н’шама, «слышащий».

Если понимать «сознание» как чисто пассивное слушание, то концепция зомби поначалу кажется легко вообразимой. Это некто, у кого отсутствует Н’шама — слышащий.

(Предупреждение: впереди вас ждет очень длинное эссе на 6600 слов с участием Дэвида Чалмерса. Его можно считать моим наглядным контрпримером ко второй части статьи Ричарда Чаппелла «Споры с Элиезером, часть II», в которой Ричард обвиняет меня в нежелании разбираться в сложных аргументах настоящих философов.)

Когда вы открываете холодильник и видите, что апельсиновый сок закончился, вы думаете: «Черт, у меня кончился апельсиновый сок». Звучание этих слов, вероятно, воспроизводится в вашей слуховой коре, как будто вы услышали, как это сказал кто-то другой. (Почему я так думаю? Потому что носители китайского языка могут запоминать более длинные последовательности цифр, чем англоговорящие. Все китайские цифры состоят из одного слога, и поэтому китайцы могут запомнить около десяти цифр, по сравнению со знаменитыми «семью плюс-минус двумя» у англоговорящих. По-видимому, существует петля повторения звуков самому себе — ограничение объема рабочей памяти в слуховой коре, которая действительно основана на фонемах.)

Предположим, что это верно; как постулат это наверняка не создаст никаких проблем для сторонников зомби-теории. Даже если люди устроены иначе, кажется достаточно простым представить искусственный интеллект, сконструированный подобным образом (а ведь весь аргумент о зомби строится именно на вообразимости). Вполне мыслимо и даже вполне вероятно, что в ближайшие пару десятилетий хирурги наложат сеть нейродатчиков на чью-нибудь слуховую кору