Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

*

199. Объяснение против развенчания. «Ламия» (1819) Джона Китса, безусловно, заслуживает какой-нибудь награды в номинации «Самая раздражающая поэзия»: <...> Неужто чары все бегут / Прикосновения лишь хладной философии? / Была на небесах когда-то грозная радуга: / Мы знаем ткань её, структуру; внесена она

В унылый перечень обыденных вещей.

Философия подрежет крылья Ангелу,

Покорит все тайны правилом и мерой,

Опустошит населённый духами воздух и шахту с гномами —

Расплетёт радугу...

Мой обычный ответ заканчивается фразой: «Если мы не научимся радоваться просто реальному, наша жизнь и вправду будет пуста». Позже я раскрою эту мысль подробнее.

Здесь же я имею в виду другое. Давайте просто возьмём строки:

Опустошит населённый духами воздух и шахту с гномами —

Расплетёт радугу...

Судя по всему, «прикосновение хладной философии» — то есть истина — уничтожило:

Духов в воздухе;

Гномов в шахте;

Радуги.

Что вызывает в памяти совсем другие стихи:

Одна из этих вещей

Не похожа на другие,

Одна из этих вещей

Здесь лишняя.

Воздух опустел от духов, а шахта лишилась гномов — но радуга-то всё ещё на месте!

В эссе «Исправление неправильного вопроса» я писал:

Прослеживая причинно-следственную связь шаг за шагом, я обнаруживаю, что моя убеждённость в том, что на мне надеты носки, полностью объясняется тем фактом, что на мне надеты носки... С другой стороны, если я вижу мираж озера в пустыне, верное причинно-следственное объяснение моего видения никак не связано с наличием реального озера в пустыне. В этом случае моя вера в существование озера не просто объясняется, а развенчивается.

Радуга была объяснена. Духи в воздухе и гномы в шахте были развенчаны.

Думаю, в этом и кроется ключевое различие, которое антиредукционисты не понимают в редукционизме.

Это непонимание разницы хорошо заметно в классическом возражении против редукционизма:

Если редукционизм верен, то даже ваша вера в редукционизм — всего лишь результат движения молекул, так с какой стати мне вообще вас слушать?

Ключевое слово здесь — всего лишь; слово, которое подразумевает, будто принятие редукционизма развенчает все мыслительные процессы, приведшие меня к нему, подобно тому, как развенчивается оптическая иллюзия.

Но ведь можно объяснить, как устроен когнитивный процесс, и при этом он не станет «всего лишь» чем-то незначительным! Моя убеждённость в том, что на мне надеты носки — это всего лишь результат того, что моя зрительная кора реконструирует нервные импульсы, идущие от сетчатки, которая уловила фотоны, отразившиеся от моих носков... то есть, согласно научному редукционизму, моя убеждённость в том, что на мне надеты носки — это всего лишь результат того факта, что на мне действительно надеты носки.

Что же должно происходить в головах антиредукционистов, чтобы они ставили радугу и веру в редукционизм в одну категорию с духами и гномами?

Здесь происходит несколько вещей одновременно. Но пока давайте сосредоточимся на базовой идее, представленной в предыдущем эссе: ошибке проекции разума между многоуровневой картой и одноуровневой территорией.

(То есть: вы никак не сможете смоделировать «Боинг-747» покварково, поэтому вам приходится использовать многоуровневую карту с явными когнитивными репрезентациями крыльев, воздушного потока и так далее. Это не означает, что сама территория многоуровневая. Насколько нам известно, истинные законы физики действуют только на уровне полей элементарных частиц.)

Думаю, когда физики говорят: «Нет никаких фундаментальных радуг», антиредукционисты слышат: «Радуг не существует».

Если не разграничивать многоуровневую карту и одноуровневую территорию, то попытка объяснить вам, что радуга не является фундаментальным физическим объектом, будет ощущаться как стирание радуги с вашей многоуровневой карты, что, в свою очередь, ощущается как стирание радуги из самого мира.

Когда Наука заявляет: «Тигры — это не элементарные частицы, они состоят из кварков», антиредукционист слышит в этом такое же пренебрежительное отрицание, как в словах: «мы поискали в твоём гараже дракона, но там оказался лишь пустой воздух».

То, что учёные сделали с радугой, и то, что они сделали с гномами, по всей видимости, казалось Китсу одним и тем же...

В подтверждение этого вспомогательного тезиса я при обсуждении стихотворения Китса намеренно использовал несколько формулировок, содержащих ошибку проекции разума. Если вы этого не заметили, то это лишь доказывает, что подобные ошибки настолько привычны, что проходят незамеченными.

Например:

Воздух опустел от духов, а шахта лишилась гномов — но радуга-то всё ещё на месте!

На самом деле Наука очистила модель воздуха от веры в духов и очистила карту шахты от репрезентаций гномов. Наука вовсе не брала настоящие ангельские крылья и не уничтожала их холодным прикосновением истины, как это преподносится в стихотворении Китса. В реальности в воздухе никогда не было никаких духов, а в шахте — никаких гномов.

Другой пример:

То, что учёные сделали с радугой, и то, что они сделали с гномами, по всей видимости, казалось Китсу одним и тем же.

Учёные ничего не делали с гномами — только с «гномами». Слово в кавычках — это не сам референт.

Но если вы совершаете ошибку проекции разума — а по умолчанию наши убеждения ощущаются просто как то, каков мир есть на самом деле, — то в момент времени T = 0 в шахтах (по всей видимости) живут гномы; в момент T = 1 на сцене выплясывает учёный, а в момент T = 2 шахты (по всей видимости) оказываются пусты. Очевидно, раньше там были гномы, но учёный их убил.

Плохой учёный! Никаких тебе стихов, убийца гномов!

Ну, именно так это и ощущается, если вы эмоционально привязались к гномам, а потом учёный говорит, что никаких гномов нет. Требуются сильный ум, глубокая честность и сознательное усилие, чтобы сказать в этот момент: «То, что может быть разрушено истиной, должно быть разрушено», и «Учёный не забрал у меня гномов, а лишь избавил меня от заблуждения», и «У меня с самого начала не было законного права на веру в гномов; меня не лишили ничего, чем бы я владел по праву», и «Если гномы существуют, я хочу верить, что они существуют; если гномов нет, я хочу верить, что их нет; пусть я не буду привязываться к убеждениям, которые мне, возможно, не нужны», — и всё остальное, что рационалисты должны говорить в подобных случаях.

Но с радугой даже не нужно заходить так далеко. Радуга всё ещё на месте!

*

1. Джон Китс,