Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Материализм типа А — это объёмный пакет идей; не стоит приписывать весь этот пакет мне, пока вы не увидите, что я согласен с каждой из его частей. Я считаю, что человек, спрашивающий: «Что такое сознание?», задаёт вполне законный вопрос и имеет законное право требовать понимания. Я не думаю, что ответ обязательно должен иметь вид: «Вот некая субстанция, обладающая всеми свойствами, которые вы приписали бы сознанию, по таким-то и таким-то причинам». Скорее, он может в некоторой степени состоять из инсайтов, которые заставят вас понять, что вы задавали вопрос неправильно.

Это не элиминативизм в отношении сознания. Это реалистичный взгляд на то, какого рода открытий стоит ожидать, столкнувшись с проблемой, которая: (1) кажется требующей хоть какого-то решения, (2) кажется принципиально неразрешимой и (3) обсуждается таким образом, который чрезвычайно сильно зависит от не до конца понятой, сложившейся ad hoc архитектуры человеческого познания.

(1) Насколько я могу судить, вы не выявили никакого логического противоречия в описании мира зомби. Вы лишь указали на то, что он довольно странный. Но существует множество причудливых возможных миров. И это не повод постулировать скрытое противоречие. Так что для меня по-прежнему полная загадка, в чём же заключается это предполагаемое противоречие.

Хорошо, я изложу это подробно с материалистической точки зрения:

Мир зомби по определению содержит все части нашего мира, находящиеся внутри замыкания отношений «причина чего-либо» или «следствие чего-либо» для любого наблюдаемого явления. В частности, он содержит причину того, что я явным образом произношу: «Я мыслю, следовательно, существую».

Когда я направляю своё внутреннее осознание на своё внутреннее осознание, вскоре после этого я замечаю, что мой внутренний монолог произносит: «Я направляю своё внутреннее осознание на своё внутреннее осознание», и могу, если захочу, сказать это вслух.

Интуитивно кажется очевидным, что моё внутреннее осознание заставляет мой внутренний монолог говорить определённые вещи, а мой внутренний монолог может заставить мои губы произносить определённые вещи.

Слово «сознание», если оно вообще имеет какой-то смысл, относится к тому, что представляет собой внутреннее осознание, к тому, что его вызывает, или к тому, что заставляет меня говорить, будто у меня есть внутреннее осознание.

Из (3) и (4) следовало бы, что если мир зомби замкнут относительно причин того, почему я произношу «Я мыслю, следовательно, существую», то мир зомби содержит то, что мы называем «сознанием».

По определению, мир зомби не содержит сознания.

Пункт (3), на мой взгляд, с весьма высокой вероятностью эмпирически истинен. Следовательно, я оцениваю эмпирическую вероятность того, что мир зомби логически невозможен, как высокую.

Вы можете спасти Мир Зомби, если допустите, что причина, по которой мой внутренний монолог произносит «Я мыслю, следовательно, существую», — это нечто совершенно отличное от сознания. В сочетании с допущением, что сознание действительно существует, именно эта часть показалась мне безумной.

Но если вышеописанное мыслимо, то разве Мир Зомби не мыслим?

Нет, потому что эти два построения Мира Зомби предполагают наделение слова «сознание» разными эмпирическими референтами — подобно тому, как «вода» в нашем мире означает H2O, в то время как «вода» на Двойнике Земли Патнэма означает XYZ. Для того чтобы Мир Зомби был логически возможен, недостаточно того, чтобы, при всём, что вы знали об устройстве эмпирического мира, слово «сознание» могло бы относиться к эпифеномену, который полностью отличается от известного нам сознания. В Мире Зомби отсутствует само сознание, а не слово «сознание» — это мир без H2O, а не мир без слова «вода». Именно это требуется для подтверждения эмпирического утверждения: «Вы могли бы устранить из нашего мира референт всего, что подразумевается под словом „сознание“, сохранив при этом все атомы на своих местах».

Иными словами, я считаю эмпирическим фактом — с учётом того, к чему на самом деле относится слово «сознание», — то, что устранить сознание, не сдвинув ни одного атома, логически невозможно. О том же, что означало бы устранить из мира «сознание», а не сознание, я рассуждать не берусь.

(2) Не совсем верно говорить, будто (с точки зрения дуализма свойств) «чудесно» то, что наши квалиа так аккуратно согласуются с физическим миром. В конце концов, это гарантируется законом природы. Так что это не более чудесно, чем любая другая логически случайная номическая необходимость (например, константы в наших физических законах).

Именно сам закон природы является «чудесным» — он выступает в качестве дополнительного, сложного и маловероятного элемента теории, который приходится постулировать без какого-либо обоснования на основе уже известного. Постулируется (а) внутренний мир, обладающий сознанием, (б) барахлящий внешний мир, который рассуждает о сознании без всякой на то причины, и (в) то, что эти два мира идеально согласуются друг с другом. Утверждение (в) не следует из (а) и (б), а потому является отдельным постулатом.

Я согласен, что такое употребление слова «чудесный» противоречит его философскому смыслу как нарушения закона природы; я имел в виду невероятность, возникающую ниоткуда, в духе веры в вечный двигатель. Стало быть, это слово было неудачно выбрано для данного контекста. Но разве интуитивно это не то самое, что мы назвали бы чудом? Ваше сознание на самом деле не является причиной того, что вы говорите о наличии у вас сознания; есть отдельный физический механизм, заставляющий вас утверждать, будто вы обладаете сознанием, но при этом существует закон, идеально их согласующий, — это поистине событие того же порядка безумия, что и превращение облатки в истинную плоть Христову при сохранении точного вида и внешнего поведения обычной облатки — просто, понимаете ли, существует закон природы, который это гарантирует.

То есть Зомби-Чалмерс (или «Внешний» Чалмерс) на самом деле не приходит ни к какому выводу, поскольку его высказывания бессмысленны. И уж подавно он не делает никаких выводов необоснованно. Он просто издаёт звуки; они поддаются эпистемической оценке не больше, чем чириканье птицы.

Если взглянуть на это с точки зрения проектирования ИИ, мне кажется, должна быть возможность создать ИИ, который систематически совершенствует свою внутреннюю часть, коррелирующую (в смысле взаимной информации или систематических отношений) с окружающей средой, — включая, возможно, числа с плавающей точкой такого рода, которые я бы назвал «вероятностями», поскольку они подчиняются внутренним соотношениям, предписанным теоремами Кокса, когда ИИ сталкивается с новой информацией — прошу прощения, новыми сенсорными данными.

Вы скажете, что если ИИ не представляет собой нечто большее, чем просто транзисторы, — если он не