Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

субстанцией, процессом или просто обозначением для путаницы, — не является эпифеноменом; ваш разум может застигнуть внутреннего слушателя за самим процессом слушания и сказать об этом вслух. Тот факт, что я напечатал этот абзац, по меньшей мере кажется опровергающим идею о том, что сознание не имеет экспериментально обнаруживаемых последствий.

Мне не хотелось бы говорить: «Что ж, давайте примем это и пойдем дальше» в отношении столь спорного философского вопроса, но, похоже, значительное большинство комментаторов Overcoming Bias с этим согласны. К тому же существуют и другие выводы, к которым можно прийти только после признания того, что нельзя изъять из вселенной сознание и оставить ее выглядеть точно так же. Так что давайте примем это и пойдем дальше.

Форма Антизомбийного аргумента, судя по всему, должна поддаваться обобщению, превращаясь в Антизомбийный принцип. Но как выглядит правильное обобщение?

Представим, к примеру, что кто-то говорит: «У меня в руке переключатель, который никак не влияет на твой мозг; если этот переключатель щелкнуть, ты лишишься сознания». Исключает ли Антизомбийный принцип и такой вариант, используя ту же структуру рассуждений?

Мне кажется, в описанном выше случае ответ — да. В частности, вы можете сказать: «Даже после того, как твой переключатель щелкнет, я все равно буду говорить о сознании ровно по тем же самым причинам, что и раньше. Если я нахожусь в сознании прямо сейчас, я останусь в сознании и после того, как ты щелкнешь переключателем».

Философы могут возразить: «Но ведь теперь вы приравниваете сознание к разговорам о сознании! А как же Кукловод зомби — чат-бот, выдающий скомпилированный корпус любительских человеческих рассуждений о сознании?»

Но я не приравнивал «сознание» к вербальному поведению. Главная посылка заключается в том, что, помимо прочего, истинный референт понятия «сознание» — это также причина, побуждающая людей рассуждать о внутренних слушателях.

Как я (довольно подробно) утверждал в цепочке о словах, при определении слова вам не всегда требуется идеальное аристотелевское необходимое и достаточное условие; иногда вам нужна просто карта сокровищ, которая приведет вас к экстенсиональному референту. Так что формулировка «то, что на самом деле заставляет меня говорить о невыразимом осознании», не является необходимым и достаточным определением. Но если то, что на самом деле побуждает меня рассуждать о невыразимом осознании, — это не «сознание», тогда...

...тогда рассуждения становятся довольно бессмысленными. Это не сокрушительный аргумент против зомби — эмпирический вопрос нельзя решить одними лишь трудностями ведения спора. Но если вы попытаетесь пренебречь антизомби-принципом, у вас возникнут проблемы со смыслом ваших рассуждений, а не только с их правдоподобностью.

Могли бы мы определить слово «сознание» как «все то, что на самом деле заставляет людей говорить о „сознании“»? Это дало бы мощное преимущество — гарантию того, что существует хотя бы один реальный факт, обозначаемый словом «сознание». Даже если наша вера в сознание — это путаница в понятиях, слово «сознание» именовало бы когнитивную архитектуру, которая эту путаницу породила. Но введение определения — это лишь обещание использовать слово последовательно; оно не решает никаких эмпирических вопросов вроде того, заставляет ли наше внутреннее осознание нас говорить о нашем внутреннем осознании.

Вернемся к выключателю.

Если мы допустим, что аргумент против зомби применим к выключателю, то Обобщенный антизомбийный принцип гласит не просто: «Любое изменение, которое не является принципиально обнаружимым экспериментально (ПОЭ), не может лишить вас сознания». Щелчок выключателя можно обнаружить экспериментально, но все же кажется крайне маловероятным, что он лишит вас сознания.

Возможно, Антизомбийный принцип гласит: «Любое изменение, которое никак не влияет на вас принципиально обнаружимым экспериментально (ПОЭ) образом, не может лишить вас сознания»?

Но разумно ли утверждать, что щелчок выключателя вообще никак не влияет на вас никаким ПОЭ-образом? Все частицы в выключателе взаимодействуют с частицами, составляющими ваше тело и мозг. Существуют гравитационные эффекты — крошечные, но реальные и ПОЭ. Гравитационное притяжение однограммового выключателя в десяти метрах от вас составляет около 6 × 10-16 м/с2. Это примерно половина диаметра нейтрона за секунду за секунду — намного ниже уровня теплового шума, но значительно выше планковского масштаба.

Мы могли бы щелкнуть выключателем на расстоянии в несколько световых лет, и в этом случае щелчок не оказал бы на вас никакого немедленного причинного эффекта (что бы ни означало слово «немедленный» в данном случае) (если Стандартная модель физики верна).

Но не похоже, что мы должны менять мысленный эксперимент подобным образом. Очевидно, что если ни к чему не подключенный выключатель щелкнет в другом конце комнаты, вам не стоит ожидать, что ваш внутренний слушатель мгновенно погаснет, словно свет, ведь этот выключатель «явно не меняет» то, что является истинной причиной ваших разговоров о внутреннем слушателе. Чем бы вы ни были на самом деле, вы не ждете, что выключатель как-то в это вмешается.

Это большой шаг.

Если вы отрицаете, что это разумный шаг, вам лучше больше никогда не подходить к выключателям. И все же это большой шаг.

Ключевая идея редукционизма заключается в том, что наши карты вселенной многоуровневы ради экономии вычислительной мощности, в то время как сама физика, судя по всему, строго одноуровневая. Все наши рассуждения о вселенной строятся с использованием понятий, находящихся гораздо выше уровня фундаментальных частиц.

Щелчок выключателя действительно изменяет фундаментальные частицы вашего тела и мозга. Он сдвигает их на целые диаметры нейтрона от того места, где они находились бы в противном случае.

В обычной жизни мы отмахиваемся от столь незначительного изменения, говоря, что выключатель «не влияет на вас». Но он действительно влияет на вас. Он меняет всё на целые диаметры нейтрона! Что вообще может оставаться прежним? Только описание, которое вы дали бы более высоким уровням организации — клеткам, белкам, импульсам, бегущим по аксону нейрона. Поскольку карта гораздо менее детализирована, чем территория, она должна сопоставлять множество различных состояний с одним и тем же описанием.

Любое разумное описание мозга на человеческом уровне, в котором говорится о нейронах и паттернах их активности (или даже о конформациях отдельных микротрубочек, составляющих аксоны и дендриты), не изменится от того, что вы щелкнете выключателем на другом конце комнаты. Ядра больше нейтронов, атомы больше ядер, и к тому времени, когда вы поднимаетесь до разговора о молекулярном уровне, эта крошечная гравитационная сила уже исчезает из списка вещей, которые вы вообще даете себе труд отслеживать.

Но если сложить вместе достаточное количество крошечных гравитационных притяжений, они в конце концов швырнут вас через всю комнату и разорвут на части приливными силами, так что, очевидно, слабый эффект —