Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

сознании, говорят о чём-то реальном, и рефлексивно-последовательный байесовский ИИ может увидеть это, проследив причинно-следственную связь, заставляющую людей говорить «сознание».

Согласно Чалмерсу, причинно замкнутая когнитивная система его внутреннего нарратива (таинственным образом) сбоит таким образом, который — не в силу необходимости, а просто в нашей вселенной — чудесным образом оказывается верным. Более того, внутренний нарратив утверждает: «внутренний нарратив таинственным образом сбоит, но чудесным образом правильно вторит обоснованным мыслям эпифеноменального внутреннего ядра», — и это утверждение снова, в нашей вселенной, чудесным образом оказывается верным.

Да ладно вам!

Неужели не должен наступить момент, когда вы просто откажетесь от идеи? Когда на каком-то базовом интуитивном уровне вы просто воскликнете: О чём вообще я думал?

Человечество накопило богатый опыт понимания того, как выглядят верные теории о мире. Верная теория выглядит совсем не так.

«Аргумент к личному неверию», — скажете вы. Хорошо, хотите, чтобы я разложил всё по полочкам? Упомянутая теория Чалмерса постулирует множество необъяснимых сложных чудес. Это снижает её априорную вероятность в соответствии с правилом умножения вероятностей и бритвой Оккама. Следовательно, над ней доминируют как минимум две теории, постулирующие меньше чудес, а именно:

Субстанциальный дуализм:

Существует ещё не изученная субстанция сознания, необычайная сверхфизическая материя, которая заметно влияет на наш мир, и именно эта материя заставляет нас говорить о сознании.

Не вполне основанный на вере редукционизм:

То, что мы называем «сознанием», происходит внутри физики ещё не изученным образом — точно так же, как это происходило последние три тысячи раз, когда человечество сталкивалось с чем-то таинственным.

Ваша интуиция, утверждающая, что никакая материальная субстанция не способна сложиться в сознание, ошибочна. Если бы вы действительно знали точно, почему вы говорите о сознании, это дало бы вам новое понимание в такой форме, которую вы сейчас даже не можете предвидеть; и после этого вы поняли бы, что ваши аргументы о том, будто в обычной физике нет места для сознания, были ошибочными.

Сравните с этим:

Эпифеноменальный дуализм свойств:

Материя обладает дополнительными свойствами сознания, которые пока не изучены. Эти свойства эпифеноменальны по отношению к обычно наблюдаемой физике — они никак не влияют на движение частиц.

Независимо от этого, существует пока не изученная причина в рамках обычной физики, по которой философы говорят о сознании и изобретают теории двойственных свойств.

Чудесным образом получается так, что, когда философы говорят о сознании, связующие законы нашего мира оказываются в точности такими, чтобы делать эти разговоры о сознании правильными, даже несмотря на то, что они возникают из-за сбоя (вывода логически необоснованных заключений) в причинно замкнутой когнитивной системе, печатающей философские статьи.

Я знаю, что сужу на основе своего ограниченного опыта. Но, исходя из моего ограниченного опыта, аргумент о зомби вполне может претендовать на звание самой безумной идеи во всей философии.

Бывают моменты, когда вам, как рационалисту, приходится верить в вещи, которые кажутся вам странными. Теория относительности кажется странной, квантовая механика кажется странной, естественный отбор кажется странным.

Но эти странности подкреплены колоссальным объёмом доказательств. Есть разница между верой в нечто странное потому, что наука убедительно это подтвердила, —

— и верой в утверждение, которое кажется откровенно безумным, на основании огромного и запутанного философского аргумента, построенного вокруг туманных чудес и гигантских белых пятен, которые даже не претендуют на то, чтобы быть понятыми, —

— причём в ситуации, когда, даже если вы примете всё, что вам до сих пор говорили, само явление после этого всё равно останется загадкой и сохранит то же качество удивительной непостижимости, что и в самом начале.

В этот момент правильным действием для рационалиста (если все аргументы Дэвида Чалмерса кажутся по отдельности правдоподобными, хотя мне они такими не кажутся) будет сказать:

«Ладно... я не знаю, как устроено сознание... я признаю это... и, возможно, я подхожу к проблеме не с того конца или задаю не те вопросы... но вся эта история с зомби просто не может быть правдой. Эти аргументы не настолько железные, чтобы заставить меня в это поверить — особенно когда согласие с ними нисколько не уменьшит моего замешательства. На глубинном нутряном уровне это просто не похоже на то, как реальность могла бы быть устроена на самом-самом деле».

Заметьте, я не говорю, что это заменяет тщательное аналитическое опровержение тезиса Чалмерса. Система 1 не заменяет Систему 2, хотя и может помочь указать путь. Вам всё равно придётся выяснить, в чём конкретно заключаются проблемы.

Чалмерс написал большую книгу, не вся она доступна в бесплатном предпросмотре Google. Я не стал воспроизводить длинные цепочки рассуждений, в которых Чалмерс спокойно и подробно излагает аргументы против собственной позиции. Я лишь попытался добавить финальное опровержение последней представленной защиты Чалмерса, на которое он, насколько мне известно, ещё не ответил. Так сказать, перебил мяч обратно на его половину поля.

Но да, на глубинном уровне единственное здравое, что можно сделать, когда вы видите вывод из аргумента о зомби — это сказать: «Этого просто не может быть», — и начать искать ошибку.

*

1. Чалмерс, Сознающий ум.

222. Ответы о зомби.

Я сегодня немного устал, поскольку вчера засиделся до трёх ночи, сочиняя эссе о зомби объёмом более 6000 слов, поэтому сегодня я просто отвечу Ричарду и разберусь с одной недосказанностью, которую заметил на следующий день.

(А) Ричард Чаппелл пишет:

Терминологическое замечание (во избежание лишней путаницы): то, что вы называете «мыслимым», некоторые из нас назвали бы всего лишь «кажущимся мыслимым».

Пропасть между «я пока не вижу здесь противоречия» и «это логически возможно» настолько огромна (в некоторых кажущихся простыми случаях эта задача NP-полна), что для этих понятий действительно стоило бы использовать два разных слова. Поскольку зомби-аргумент подкрепляется как раз тем, что эту гигантскую пропасть удаётся замести под ковёр незначительных терминологических различий, я действительно считаю, что было бы неплохо разграничить «мыслимое» и «логически возможное» или, может быть, провести ещё более очевидное различие. Я не могу выбирать уже устоявшуюся профессиональную терминологию, но в подобном случае я бы всерьёз отказался её использовать.

Пожалуй, я буду говорить «кажущееся мыслимым» о той информации, которую сторонники существования зомби получают, воображая Миры Зомби, и «логически возможное» о той информации, которая устанавливается путём предъявления полной модели или логического доказательства. Обратите внимание на масштаб пропасти между информацией, которую можно получить, зажмурившись и представив зомби, и информацией, которая требуется для обоснования аргумента в пользу эпифеноменализма.

То есть вашу