Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Почему это определение сверхъестественного великолепно? За развернутой аргументацией я отсылаю вас к Ричарду Кэрриеру. Но подумайте вот о чем: представьте, что вы обнаружили нечто, похожее на духа, обитающего в дереве — дриаду, которая может материализоваться внутри или снаружи дерева и по-английски говорит о необходимости защищать ее дерево, и так далее. А затем представьте, что мы направляем на этого древесного духа микроскоп, и оказывается, что она состоит из частей — причем не из изначально духовных и невыразимых частей вроде ткани желаний и полотна убеждений, а из тех же самых частиц, что и кварки с электронами, чье поведение определяется в терминах движения, а не разума. Разве дриаду тут же не разжаловали бы в унылый каталог обыденных вещей?

Но если мы примем определение сверхъестественного, данное Ричардом Кэрриером,, то возникнет дилемма: мы хотим дать религиозным утверждениям честный шанс, но при этом у нас, похоже, есть очень веские основания исключать сверхъестественные объяснения априори.

Я имею в виду, как бы выглядела Вселенная, если бы редукционизм был ложен?

Ранее я формулировал тезис редукционизма следующим образом: человеческий разум создает многоуровневые модели реальности, в которых паттерны высокого и низкого уровней представлены отдельно и явно. Физик знает уравнение гравитации Ньютона, уравнение гравитации Эйнштейна и вывод первого как низкоскоростного приближения второго. Но эти три отдельные ментальные репрезентации — лишь удобство человеческого познания. Нельзя сказать, что у самой реальности есть уравнение Эйнштейна, управляющее на высоких скоростях, уравнение Ньютона для низких скоростей и «закон перехода», сглаживающий стыки. У самой реальности есть лишь один уровень — эйнштейновская гравитация. Только ошибка проекции ума заставляет некоторых людей рассуждать так, будто высшие уровни могут существовать обособленно: различные уровни организации могут иметь отдельные репрезентации на картах в человеческой голове, но сама территория представляет собой единый низкоуровневый математический объект.

Предположим, это не так.

Предположим, что ошибка проекции ума — вовсе не ошибка, а чистая правда.

Предположим, что «Боинг-747» обладал бы фундаментальным физическим существованием отдельно от кварков, которые его составляют.

Каких экспериментальных наблюдений вы бы ожидали, окажись вы в такой Вселенной?

Если вы не можете дать на это толковый ответ, то вовсе не наблюдение отвергает «нередукционистские» убеждения, а их априорная логическая противоречивость. Если вы не можете сказать, какие предсказания делает «нередукционистская» модель, как можно утверждать, что экспериментальные данные ее опровергают?

Мой тезис состоит в том, что нередукционизм — это путаница; а когда вы понимаете, что идея представляет собой путаницу, становится сложновато представить, как выглядела бы Вселенная, будь эта путаница правдой. Допустим, у меня есть некая многоуровневая модель мира, и эта модель взаимно однозначно соответствует причинно-следственным элементам физики. Но когда все правила заданы, почему бы этой модели просто не схлопнуться в еще один список фундаментальных объектов и их взаимодействий? Неужели всё, что я могу увидеть в этой модели — например, «Боинг-747» или человеческий разум, — должно стать отдельной реальной сущностью? Но что, если я увижу какой-то паттерн в этой новой суперсистеме?

Сверхъестественность — это частный случай нередукционизма, в котором несводимыми объявляются не «Боинги», а лишь (некоторые) ментальные сущности. Религия — это частный случай сверхъестественного, где несводимыми ментальными сущностями выступают Бог (или боги) и души, а возможно, также грехи, ангелы, карма и тому подобное.

Если я предположу существование могущественной сущности, способной обозревать и изменять каждый элемент нашей наблюдаемой Вселенной, но при этом сводимой к нементальным частям, которые взаимодействуют с элементами нашей Вселенной закономерным образом; если я предположу, что эта сущность хочет определенных конкретных вещей, но «хочет» при помощи мозга, состоящего из частиц и полей, — это все еще не религия, а просто натуралистическая гипотеза о натуралистической Матрице. Если бы завтра облака разошлись и огромная сияющая аморфная фигура громогласно провозгласила вышеописанное устройство реальности, это не означало бы, что фигура обязательно говорит правду; но я бы показывал эти видеозаписи на уроках естествознания и пытался бы вывести из этой теории проверяемые предсказания.

И наоборот, религии проигнорировали открытие этой древней бестелесной сущности: вездесущей в работе Природы и имманентной каждому падающему листу; огромной, как поверхность планеты, и насчитывающей миллиарды лет; самой по себе не сотворенной и возникающей из структуры физики; проектирующей без помощи мозга, чтобы сформировать всю жизнь на Земле и разум человечества. Естественный отбор, когда Дарвин предложил его, не был провозглашен долгожданным Творцом: он не был фундаментально ментальным.

Но теперь мы подходим к дилемме: если устоявшееся, традиционное, нормальное и скучное понимание физики и мозга верно, то у человека в принципе нет возможности конкретно вообразить альтернативную вселенную, в которой вещи являются несводимо ментальными, и вывести из нее проверяемые экспериментальные предсказания. Потому что если скучная старая нормальная модель верна, ваш мозг состоит из кварков, а значит, ваш мозг способен воображать и конкретно предсказывать только то, что может быть предсказано кварками. Вы всегда сможете строить лишь модели, состоящие из взаимодействующих простых вещей.

Люди, живущие в редукционистских вселенных, не могут конкретно представить себе нередукционистские вселенные. Они могут произнести слово «нередукционистский» по слогам, но не могут его вообразить.

Базовая ошибка антропоморфизма и причина, по которой сверхъестественные объяснения кажутся гораздо проще, чем они есть на самом деле, заключается в том, что ваш мозг использует самого себя как непрозрачный черный ящик для предсказания других вещей, помеченных ярлыком «разумные». Поскольку у вас уже есть большие, сложные сети нейронных связей, реализующие ваше «желание» чего-либо, вам кажется, что вы легко можете описать воду, которая «хочет» течь под уклон: одно-единственное слово «хочет» служит рычагом, запускающим вашу собственную сложную машину желаний.

Или вы воображаете, что Богу нравится прекрасное, и потому Он создал цветы. Ваша собственная схема «красоты» определяет, что является «красивым», а что — «некрасивым». Но вы не знаете схемы собственных синапсов. Вы не можете описать нементальную систему, которая вычисляет тот же ярлык для «красивого» или «некрасивого» — не можете написать компьютерную программу, предсказывающую ваши собственные оценки. Но это лишь недостаток ваших знаний; это не означает, что у работы мозга нет объяснения.

Если «скучный взгляд» на реальность верен, то вы никогда не сможете предсказать ничего несводимого, потому что вы сводимы. Вы никогда не сможете получить байесовское подтверждение гипотезы несводимости, поскольку любое предсказание, которое вы можете сделать, в силу этого окажется чем-то, что также может быть предсказано сводимой вещью — а именно вашим мозгом.

За пределы некоторых коробок вы действительно не можете выйти мысленно. Если наша вселенная действительно