Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

«Для любого X: черный ящик не делает X». Черный ящик является следствием, но не причиной; он эпифеноменален; лишен причинной силы. Мысленно вы тестируете эту общую гипотезу на отдельных примерах, и она кажется верной: «Превращает ли черный ящик свинец в золото? Нет. Кипятит ли черный ящик воду? Нет».

Но вы можете видеть черный ящик; он поглощает свет и тяжело лежит в вашей руке. Это тоже часть танца причинности. Если бы черный ящик был полностью исключен из причинно-следственной вселенной, вы не могли бы его видеть; у вас не было бы возможности узнать, что он существует; вы бы не смогли сказать: «Спасибо за черный ящик». Вы не подумали об этом контрпримере, когда формулировали общее правило: «Для всех X: черный ящик не делает X». Но он был там изначально.

(На самом деле инопланетяне оставили вам еще один черный ящик, на этот раз чисто эпифеноменальный, и вы понятия не имеете, что он стоит у вас в гостиной. В этом и заключалась их шутка.)

Если вы можете закрыть глаза и почувствовать, как вы чувствуете, — если вы можете осознавать, как вы осознаете, и думать: «Я осознаю, что осознаю», — и произносить вслух: «Я осознаю, что осознаю», — значит, ваше сознание оказывает влияние на ваш внутренний монолог и на движение ваших губ. Вы можете видеть, как вы видите, и это отражается в вашем внутреннем монологе, а также в движении ваших губ, если вы решите произнести это вслух.

Я не встречал приведенного выше аргумента в такой формулировке — «слушатель, застигнутый прямо за слушанием», — хотя, вполне возможно, кто-то высказывал ее и раньше.

Но это стандартный тезис — который признают и философы-зомбисты! — что философы Мира Зомби, будучи атом к атому идентичны нашим собственным философам, пишут абсолютно такие же статьи по философии сознания.

На этом этапе Мир Зомби перестает быть интуитивным следствием идеи о пассивном слушателе.

Написание философами статей о сознании, по-видимому, представляет собой как минимум одно следствие влияния сознания на мир. Можно приводить хитроумные доводы в пользу того, что это не так, но для этого вам действительно придется быть очень хитрым.

Чисто интуитивно можно предположить, что если бы ваше внутреннее осознание исчезло, это изменило бы мир — в том смысле, что ваш внутренний нарратив больше не произносил бы вещей вроде «Во мне есть таинственный слушатель», поскольку этот таинственный слушатель исчез бы. Обычно как раз после того, как вы направляете внимание на собственное осознание, ваш внутренний нарратив говорит: «Я осознаю своё осознание», а это указывает на то, что если бы первое событие больше никогда не происходило, то не произошло бы и второе. Можно приводить хитроумные доводы в пользу того, что это не так, но для этого вам действительно придется быть очень хитрым.

Вы можете сформировать пропозициональное убеждение, что «сознание не производит никаких эффектов», и поначалу не видеть в этом никакого противоречия, если не осознаёте, что разговоры о сознании — это следствие обладания сознанием. Но как только вы прослеживаете связь от общего правила («сознание не имеет следствий») к конкретному выводу («сознание никак не влияет на то, как философы пишут статьи о сознании»), зомбизм перестает казаться интуитивным и начинает требовать от вас постулирования странных вещей.

Одной из таких странных вещей, которую вы могли бы постулировать, является Повелитель Зомби — божество внутри Мира Зомби, которое тайно берет под контроль философов-зомби и заставляет их говорить и писать о сознании.

Существование Повелителя Зомби не кажется невозможным. Люди часто рассуждают о сознании не так уж связно. Имитировать их дискурс, пожалуй, не так уж трудно — на уровне, скажем, обывателя, болтающего в баре. Возможно, вы могли бы взять в качестве корпуса текстов рассуждения тысячи дилетантов, пытающихся обсуждать сознание, загрузить их в несознательный, но сложный ИИ (лучше сегодняшних моделей, но не самомодифицирующийся) и получить на выходе рассуждения о «сознании», которые звучали бы столь же разумно, как и у большинства людей, то есть не очень.

Но эта речь о «сознании» не была бы спонтанной. Она не порождалась бы внутри ИИ. Это была бы записанная имитация чужого разговора. Это просто голопалуба, где центральный ИИ прописывает реплики неигровых персонажей. Суть Мира Зомби не в этом.

По условию, Мир Зомби атом к атому идентичен нашему, за исключением того, что у его обитателей отсутствует сознание. Более того, атомы в Мире Зомби движутся по тем же законам физики, что и в нашем мире. Если и существуют какие-то «связующие законы», определяющие, какие именно конфигурации атомов порождают сознание, то в Мире Зомби эти законы отсутствуют. Однако, согласно гипотезе, это различие экспериментально необнаружимо. Когда дело доходит до того, чтобы определить, повернет кварк туда или сюда или подействует ли он силой на соседние кварки — до всего, что можно измерить экспериментально, — действуют одни и те же законы физики.

В Мире Зомби нет места для Повелителя Зомби, ведь Повелитель Зомби должен управлять губами зомби, а такое управление в принципе экспериментально обнаружимо. Повелитель Зомби двигает губами, а значит, это имеет наблюдаемые последствия. В какой-то точке электрон повернул бы в одну сторону вместо другой просто потому, что так велел Повелитель Зомби. (Если только Повелитель Зомби не находится на самом деле внутри этого мира в виде структуры из кварков — но тогда Мир Зомби не будет атом к атому идентичен нашему, если только вы не считаете, что этот мир тоже содержит Повелителя Зомби.)

Когда философ в нашем мире печатает: «Я думаю, что Мир Зомби возможен», его пальцы последовательно ударяют по клавишам: З-О-М-Б-И. Существует причинно-следственная связь, которую можно проследить в обратном направлении от этих нажатий клавиш: сокращение мышц, передача нервных импульсов, команды, посылаемые через спинной мозг из моторной коры — и далее в менее изученные области мозга, где внутренний нарратив философа впервые начал говорить о «сознании».

И зомби-двойник философа нажимает те же самые клавиши — по той же самой причине, если говорить на языке причинности. В объяснительной цепочке того, почему философ пишет именно так, нет ни одной причины, которая отсутствовала бы у его зомби-двойника. У зомби-двойника тоже есть внутренний нарратив о «сознании», который супер-ФМРТ мог бы считать из слуховой коры. И какие бы другие мысли или любые иные причины ни привели к этому внутреннему нарративу, они абсолютно одинаковы как в нашей вселенной, так и в Мире Зомби.

Так что нельзя сказать, будто философ пишет о сознании из-за сознания, в