Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Таким образом, ваш зомби, будучи физически идентичным вам до последнего атома, откроет холодильник, и в его слуховой коре сформируются паттерны для фонем «Черт, у меня кончился апельсиновый сок». С этим пунктом эпифеноменалисты охотно согласятся.

Но, скажет эпифеноменалист, внутри зомби нет никого, кто мог бы услышать; внутренний слушатель отсутствует. Внутренний монолог произносится, но его никто не слышит. Вы не тот, кто озвучивает свои мысли. Вы тот, кто их слышит.

Намного проще (сказали бы они) создать ИИ, который выдает некое подобие внутреннего монолога, чем доказать, что внутренний слушатель его слышит.

«Аргумент о зомби» состоит в том, что если мир зомби возможен — не обязательно физически возможен в нашей вселенной, а просто «возможен теоретически», «вообразим» или что-то в этом роде, — тогда сознание должно быть внефизическим, чем-то сверх и помимо простых атомов. Почему? Потому что даже если бы вы каким-то образом знали положение всех атомов во Вселенной, вам всё равно пришлось бы сообщить — в качестве отдельного и дополнительного факта, — что люди обладают сознанием, что у них есть внутренние слушатели, что мы не находимся в мире зомби, как это кажется возможным.

Зомбизм — это не то же самое, что дуализм. Декарт считал, что существует телесная субстанция и совершенно иной тип ментальной субстанции, но Декарт также полагал, что ментальная субстанция является причинно активным началом, которое взаимодействует с телесной субстанцией, управляя нашей речью и поведением. Исключение ментальной субстанции из человека привело бы к появлению традиционного зомби — из тех, что шатаются и стонут.

И хотя древнееврейское слово для обозначения сокровенной души — это Н’шама, «то-что-слышит», я не припомню, чтобы хоть один раввин отстаивал возможность существования зомби. Большинство раввинов, вероятно, пришли бы в ужас от мысли, что божественная часть, которую Бог вдохнул в Адама, на самом деле ничего не делает.

Специальный научный термин для убеждения в том, что сознание существует, но никак не влияет на физический мир, — эпифеноменализм.

Хотя в аргументе о зомби есть и другие элементы (я рассмотрю их ниже), мне кажется, что именно интуитивное представление о пассивном слушателе изначально склоняет людей к зомбизму. В частности, именно оно привлекает к зомбизму обывателей. Основная идея проста и доступна: свет горит, но дома никого нет.

Философы апеллируют к интуитивному представлению о пассивном слушателе, когда говорят: «Конечно, мир зомби вообразим; вы прекрасно понимаете, каким бы он был».

Одна из главных баталий в «войнах зомби» ведется вокруг того, что именно подразумевается под утверждением, будто зомби «возможны». Ранние философы-зомбисты (в 1970-х годах) просто считали очевидным, что зомби «возможны», и не утруждали себя определением того, какая именно возможность имеется в виду.

Благодаря моему знакомству с математической логикой первое, что приходит мне на ум, — это логическая возможность. Если у вас есть набор утверждений вида {(A ⇒ B), (B ⇒ C), (C ⇒¬A)}, то составное убеждение логически возможно, если у него есть модель — что в приведенном простом случае сводится к поиску такого присваивания значений для {A, B, C}, при котором все утверждения (A ⇒ B), (B ⇒ C) и (C ⇒¬A) истинны. В данном случае подходит вариант A = B = C = 0, равно как и {A = 0, B = C = 1} или {A = B = 0, C = 1}.

Нечто будет казаться возможным — «концептуально возможным» или «вообразимым», — если вы можете рассматривать набор утверждений, не видя в них противоречия. Но в общем случае обнаружить противоречия или найти полную конкретную модель — задача невероятно сложная! Если ограничиться простыми булевыми высказываниями вида ((A или B или C) и (B или ¬C или D) и (D или ¬A или ¬C)...), конъюнкциями дизъюнкций трех переменных, то мы получим знаменитую задачу 3-SAT, ставшую одной из первых задач, для которых была доказана NP-полнота.

Так что тот факт, что вы с первого взгляда не видите противоречия в Мире Зомби, еще не означает, что его там нет. Это все равно что не видеть с первого взгляда противоречия в гипотезе Римана. Переход от концептуальной возможности («я не вижу никаких проблем») к логической возможности в строгом техническом смысле — это огромный шаг. Этот шаг легко сделать NP-полным переходом, а в теориях первого порядка его можно сделать сколь угодно сложным для вычисления даже в случае конечных вопросов. И для предположения, будто логически всеведущий разум может знать положение всех атомов во Вселенной и при этом все же нуждаться в том, чтобы ему сообщили — как дополнительный, логически не вытекающий из этого факт, — что у нас есть внутренние слушатели, требуется именно логическая возможность Мира Зомби, а не концептуальная.

То, что вы еще не видите противоречия, вовсе не гарантирует, что вы не увидите его через полминуты. «Все нечетные числа простые. Доказательство: 3 — простое число, 5 — простое число, 7 — простое число...»

Так что давайте поразмыслим над аргументом о зомби чуть дольше: можем ли мы найти контрпример к утверждению «сознание не оказывает никакого причинно-следственного влияния на мир, которое мог бы зафиксировать сторонний наблюдатель»?

Если вы закроете глаза и сконцентрируетесь на своем внутреннем осознании, в вашем внутреннем монологе начнут формироваться мысли вроде: «Я осознаю себя», и «Мое осознание отделено от моих мыслей», и «Я не тот, кто высказывает мои мысли, а тот, кто их слышит», и «Мой поток сознания — это не мое сознание», и «Кажется, во мне есть часть, исчезновение которой я могу представить без изменения моего внешнего поведения».

Вы можете даже произнести эти предложения вслух во время медитации. В принципе, кто-нибудь с супер-фМРТ, вероятно, мог бы считать фонемы из вашей слуховой коры; но произнесение их вслух снимает любые сомнения в том, что вы вступили в область проверяемости и физических последствий.

И это определенно выглядит так, словно внутренний слушатель оказывается застигнут прямо за слушанием той вашей частью, которая пишет внутренний монолог и шевелит вашим языком.

Представьте, что вас посещает таинственная раса инопланетян и оставляет в подарок загадочный черный ящик. Вы пытаетесь тыкать в него и крутить его в руках, но (насколько вы можете судить) вам так и не удается добиться от него никакой реакции. Вы не можете заставить черный ящик производить золотые монеты или отвечать на вопросы. Поэтому вы делаете вывод, что черный ящик причинно неактивен: