Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

то время как зомби-двойник пишет о сознании из-за Повелителя Зомби или ИИ-чатбота. Когда вы прослеживаете цепочку причинно-следственных связей от клавиатуры к внутреннему нарративу, отражающемуся в слуховой коре, и далее к причине самого этого нарратива, вы неизбежно обнаружите то же самое физическое объяснение как в нашем мире, так и в Мире Зомби.

Как пишет самый грозный сторонник зомбизма Дэвид Чалмерс:1

Представьте моего зомби-двойника в соседней вселенной. Он постоянно говорит о сознательном опыте — на самом деле, он кажется буквально одержимым им. Он проводит уйму времени, сгорбившись перед компьютером и сочиняя главу за главой о тайнах сознания. Он часто рассуждает об удовольствии, получаемом от определенных чувственных квалиа, признаваясь в особой любви к глубоким зеленым и пурпурным тонам. Он регулярно вступает в споры с материалистами-зомби, утверждая, что их позиция не способна воздать должное реальности сознательного опыта.

И при этом у него нет вообще никакого сознательного опыта! В его вселенной материалисты правы, а он ошибается. Большинство его утверждений о сознательном опыте абсолютно ложны. Но, безусловно, существует физическое или функциональное объяснение того, почему он делает подобные заявления. В конце концов, его вселенная полностью подчинена законам, и происходящие в ней события не являются чудесами, так что у его заявлений должно быть какое-то объяснение.

. . . Любое объяснение поведения моего двойника в равной степени будет являться и объяснением моего поведения, поскольку процессы внутри его тела в точности отражают процессы внутри моего. Объяснение его заявлений, очевидно, не зависит от существования сознания, поскольку в его мире никакого сознания нет. Отсюда следует, что объяснение моих заявлений также не зависит от существования сознания.

Чалмерс не приводит аргументы против зомби — это его реальные убеждения!

Эта парадоксальная ситуация одновременно восхищает и тревожит. Она, очевидно, не является фатальной для нередукционистской позиции, но это как минимум то, с чем нам необходимо разобраться...

Я бы на полном серьезе номинировал это на звание самой крупной пулей, которую кому-либо приходилось прикусить за всю историю. И это сомнительный комплимент Дэвиду Чалмерсу: менее выдающийся смертный просто не разглядел бы этих следствий, или отказался бы смотреть им в лицо, или как-нибудь рационализировал бы, почему всё совсем не так.

Зачем кому-то прикусывать столь огромную пулю? Зачем постулировать бессознательных зомби, которые пишут статьи о сознании по точно той же самой причине, что и наши собственные, подлинно сознающие философы?

И дело не в первой интуиции, о которой я писал, — интуиции пассивного слушателя. Эта интуиция может утверждать, что зомби умеют водить машины, заниматься математикой или даже влюбляться, но она не говорит, что зомби пишут философские статьи о своих пассивных слушателях.

Аргумент зомби держится не исключительно на интуиции пассивного слушателя. Думаю, если бы дело было только в ней, аргумент зомби давно бы уже умер. Интуиция о том, что «слушателя» можно устранить без каких-либо последствий, исчезла бы, стоило вам осознать, что ваш внутренний монолог регулярно, кажется, ловит слушателя с поличным во время слушания.

Нет, стремление стиснуть зубы на этой пуле проистекает из совершенно иной интуиции — интуиции о том, что сколько бы атомов вы ни складывали, сколько бы масс и электрических зарядов ни взаимодействовало друг с другом, они никогда не породят с необходимостью субъективное ощущение таинственной красноты красного. Возможно, для нашей физической вселенной и верно (как говорит Чалмерс), что расположение таких-то атомов в таком-то порядке вызывает ощущение красноты; но если так, то это не необходимый факт, а нечто такое, что требует объяснения помимо и сверх движения атомов.

Но если рассматривать вторую интуицию саму по себе, без интуиции пассивного слушателя, то трудно понять, почему из неё следует зомбизм. Возможно, существует просто субстанция иного рода, отличная от атомов и дополняющая их, которая не является каузально пассивной, — душа, которая на самом деле что-то делает, душа, играющая реальную причинно-следственную роль в том, почему мы пишем о «таинственной красноте красного». Уберите душу, и... ну, если предположить, что вы не просто впадете в кому, вы уж точно больше не напишете ни одной статьи о сознании!

Именно такую позицию занимал Декарт и большинство других мыслителей прошлого: душа имеет иную природу, но она взаимодействует с телом. Позиция Декарта в научной терминологии называется субстанциальным дуализмом — существует мыслящая субстанция, ментальная субстанция, и она не похожа на атомы; но при этом она обладает причинной силой, взаимодействует с миром и оставляет видимый след в нашей вселенной.

Сторонники зомби-теории — это дуалисты свойств: они не верят в отдельную душу, они верят, что материя в нашей вселенной обладает дополнительными свойствами помимо физических.

«Помимо физических»? Что это значит? Это значит, что дополнительные свойства существуют, но они не влияют на движение атомов, в отличие от свойств электрического заряда или массы. Эти дополнительные свойства невозможно обнаружить экспериментально сторонними наблюдателями; вы знаете, что обладаете сознанием, изнутри ваших дополнительных свойств, но ни один ученый никогда не сможет обнаружить это напрямую извне.

Таким образом, дополнительные свойства существуют, но причинно неактивны. Они не заставляют атомы двигаться, и именно поэтому сторонние наблюдатели не могут их обнаружить.

И именно поэтому мы (якобы) можем вообразить вселенную точно такую же, как наша, где все атомы находятся на тех же местах, но дополнительные свойства отсутствуют, так что всё идет своим чередом, как и прежде, но при этом никто не обладает сознанием.

Мир Зомби может быть невозможен физически, говорят сторонники зомби-теории, — поскольку в действительности вся материя в нашей вселенной обладает этими дополнительными свойствами или подчиняется связующим законам, вызывающим сознание, — но Мир Зомби логически возможен: связующие законы могли бы быть другими.

Но раз уж вы понимаете, что мыслимость — это не то же самое, что логическая возможность, а также то, что Мир Зомби даже не столь уж интуитивно понятен, зачем вообще утверждать, что Мир Зомби логически возможен?

Зачем, о зачем утверждать, что дополнительные свойства эпифеноменальны и необнаружимы?

Эту дилемму можно сформулировать предельно жестко: Чалмерс верит, что действительно существует нечто под названием «сознание», и это сознание воплощает в себе истинную и неописуемую субстанцию таинственной красноты красного. Возможно, это свойство за пределами массы и заряда, но оно есть, и оно и есть сознание. Но, утверждая всё это, Чалмерс вдобавок уточняет, что эта истинная субстанция сознания эпифеноменальна и лишена причинной силы — но зачем это утверждать?

Зачем говорить, что можно убрать эту истинную субстанцию сознания, оставив все атомы на прежних местах заниматься прежними делами? Если это правда, то нам потребуется какое-то