Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

200. Ложный редукционизм. Была на небесах когда-то грозная радуга: мы знаем её уток, её текстуру; она внесена в унылый каталог обыденных вещей. — Джон Китс, «Ламия».

Подозреваю — хотя это лишь догадка, — что сам Китс не знал ни утка, ни текстуры радуги. Во всяком случае, не так, как понимал радугу Ньютон. Возможно, не знал вообще. Может быть, Китс просто где-то прочитал, что Ньютон объяснил радугу как «свет, отражённый каплями дождя», —

— что на самом деле было известно ещё в тринадцатом веке. Ньютон лишь внёс уточнение, показав, что свет разлагается на цветные составляющие, а не меняет цвет. Но этого хватило, чтобы радуга снова попала в заголовки новостей. И вот Китс вместе с Чарльзом Лэмом, Уильямом Вордсвортом и Бенджамином Хейдоном выпил «за посрамление памяти Ньютона», поскольку тот «разрушил поэзию радуги, сведя её к призме». Это одна из причин подозревать, что Китс не слишком глубоко разбирался в вопросе.

Подозреваю — хотя это лишь догадка, — что Китс не смог бы набросать на бумаге, почему радуга появляется только тогда, когда солнце находится у вас за спиной, или почему радуга представляет собой дугу окружности.

Если так, у Китса было Ложное Объяснение. В данном случае — ложная редукция. Ему сказали, что радугу редуцировали, но в его собственной модели мира она на самом деле не была редуцирована.

Это ещё одно из тех различий, которые никак не могут уловить антиредукционисты, — разница между декларацией голого факта, что нечто редуцируемо, и способностью это увидеть.

В этом антиредукционистов нельзя слишком сильно винить, ведь это часть общей проблемы.

Я уже писал ранее о кажущемся знании, которое знанием не является; об убеждениях, которые относятся вовсе не к своим предполагаемым объектам, а служат лишь записями для зазубривания в классе; о словах, действующих как знаки «стоп» для любопытства, а не как ответы; и о техноболтовне, которая лишь демонстрирует принадлежность к литературному жанру «наука»...

Существует огромная разница между способностью видеть, откуда берётся радуга, возможностью поиграть с призмами, чтобы подтвердить это, или даже сделать радугу самому, распыляя капли воды, —

— и ситуацией, когда какой-нибудь угрюмый философ просто говорит вам: «Нет в радуге ничего особенного. Разве вы не слышали? Учёные её давно объяснили. Просто что-то там связанное с каплями дождя или вроде того. Радоваться тут нечему».

Полагаю, именно этим различием объясняется чертовски большая доля той убийственной экзистенциальной пустоты, которая якобы сопутствует научному редукционизму.

Опыт «редукционизма», переживаемый антиредукционистами, нужно трактовать не так, будто они наяву видят, как устроена радуга, и не так, будто они переживают важнейший момент озарения («Ага!»), а так, будто им просто сообщили, что пароль — «Наука». Эффект заключается лишь в том, что радугу переносят в другой литературный жанр — жанр, который их научили считать скучным.

Слыша фразу «Наука объяснила радугу!», они словно вешают над радугой табличку: «Постановлением Совета искушённых литературных критиков данное явление признано СКУЧНЫМ. Проходите мимо».

И это всё, что написано на табличке: только это, и ничего больше.

Так у литературных критиков силой отбирают их гномов; они не растворяются в озарении, а изгоняются прямым авторитетным указом. Им не дают взамен никакой красоты, которая заполнила бы опустевший, лишившийся призраков воздух, никакого подлинного понимания, которое могло бы быть интересным само по себе. Лишь ярлык с надписью: «Ха! Вы думали, радуга — это красиво? Бедный, наивный глупец. Это часть литературного жанра науки, состоящего из сухих, чинных и непонятных слов».

Вот как антиредукционисты воспринимают «редукционизм».

Что ж, Китса винить нельзя — беднягу, должно быть, просто неправильно воспитали.

Но он всё-таки осмелился выпить «за посрамление памяти Ньютона»?

В качестве тоста для рационалистов я предлагаю: «За память о заблуждении Китса!». Ваше здоровье.

*

201. Поэты саванны.

Поэты говорят, что наука лишает звезды их красоты — ведь это всего лишь сгустки атомов газа. Но ничто не бывает «всего лишь». Я тоже могу видеть звезды в ночной пустыне и чувствовать их. Но вижу ли я меньше или больше?

Бескрайность небес расширяет границы моего воображения — привязанный к этой карусели, мой крошечный глаз улавливает свет миллионолетней давности. Огромный узор, частью которого являюсь и я, — быть может, вещество, из которого я состою, было некогда извергнуто забытой звездой — подобно той, что извергается прямо сейчас. Или взгляните на них более зорким оком Паломара — они разлетаются во все стороны из некоего общего центра, где когда-то, возможно, были все вместе. Каков узор, каков смысл, почему всё так? Знание хотя бы малой доли об этой тайне ей не вредит.

Ведь истина куда более удивительна, чем всё, что могли вообразить художники прошлого! Почему же современные поэты молчат о ней?

Что это за поэты, которые могут воспевать Юпитер, как если бы он был человеком, но замолкают, когда оказывается, что это гигантский вращающийся шар из метана и аммиака?

— Ричард Фейнман, Фейнмановские лекции по физике, т. 1

Том I, с. 3–6 (абзацы добавлены)

В этой последней строчке кроется настоящий вопрос: что это за поэт, который может писать о Юпитере-боге, но не о Юпитере — гигантском шаре? Независимо от того, был ли вопрос Фейнмана риторическим, у него есть реальный ответ:

Если Юпитер подобен нам, он может влюбиться, потерять любовь и обрести её вновь.

Если Юпитер подобен нам, он может стремиться, возвышаться и быть низвергнутым.

Если Юпитер подобен нам, он может смеяться, плакать или танцевать.

Но если Юпитер — это гигантский вращающийся шар из метана и аммиака, поэту гораздо труднее пробудить в нас чувства.

Есть поэты и рассказчики, утверждающие, что Великие Сюжеты вечны, они никогда не меняются и лишь пересказываются вновь и вновь. Они с гордостью заявляют, что Шекспир и Софокл связаны узами мастерства, которые прочнее простых столетий; что эти два драматурга могли бы поменяться эпохами без малейшего потрясения.

Дональд Браун однажды составил список из более чем двухсот «человеческих универсалий», обнаруженных во всех изученных человеческих культурах (или в подавляющем их большинстве) — от Сан-Франциско до племени !кунг в пустыне Калахари. В этот список входят брак, избегание инцеста, материнская любовь, соперничество между братьями и сестрами, а также музыка, зависть, танцы, рассказывание историй, эстетика, ритуальная магия для