Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Если бы Великая Тайна Естественного Отбора, переданная Дарвином, Который Не Забыт, открывалась вам только после того, как вы заплатите 2000 долларов и пройдете церемонию с факелами, рясами, масками и принесением в жертву быка, — `вот тогда`, когда вам показали бы окаменелости, показали бы под микроскопом оптический кабель, проходящий сквозь сетчатку глаза, и наконец поведали бы Истину, вы бы воскликнули: «Это гениальнейшая вещь на свете!» и `были бы полностью удовлетворены`. И если бы после этого какой-нибудь другой культ попытался внушить вам, что всё создал бородатый мужик на небесах 6000 лет назад, вы бы просто покатились со смеху.

И знаете, так ведь могло быть действительно гораздо `веселее`. Особенно если бы для посвящения вам требовалось самостоятельно — или вместе с сокурсниками — собрать воедино часть доказательств, прежде чем вы сможете сказать своему Научному Сэнсэю, что готовы перейти на следующий уровень. Это было бы не очень `эффективно`, конечно, но зато `весело.`

Если бы человечество никогда не совершило этой ошибки — не пошло по религиозному пути и не научилось бояться всего, что отдаёт религией, — то, возможно, церемония вручения докторских степеней включала бы литании и песнопения, потому что, ну согласитесь, людям же это нравится. Зачем лишать жизни всякого веселья?

Может быть, мы просто всё делаем неправильно.

И нет, я не всерьёз предлагаю попытаться повернуть вспять последние пятьсот лет открытости и засекретить всю науку. По крайней мере, не в данный момент. Эффективность сейчас важна, особенно в таких областях, как медицинские исследования. Я просто объясняю, почему не расскажу никому Секрет того, как невыразимое различие между синевой и краснотой рождается из простых атомов, меньше чем за 100 000 долларов —

Кхм! Я хотел сказать, что делюсь этим видением альтернативной Земли ради того, чтобы вы относились к науке на равных с культами. Чтобы вы не обесценивали научную истину, когда узнаёте её, просто из-за того, что её не охраняют должным образом, под стать её ценности. Представьте себе мантии и маски. Вообразите, как вы пробираетесь в хранилища и крадёте Утраченное Знание Ньютона. И не позволяйте никаким организациям, которые действительно используют мантии и маски, одурачить себя, если только они при этом не показывают вам данные.

Похоже, в умах людей есть пустые ячейки для Эзотерических Знаний, Глубоких Секретов, Скрытой Истины. И я даже не критикую эту особенность нашей психики! Глубокие тайные эзотерические скрытые истины действительно существуют — например, квантовая механика или байесовская структура. Мы просто привыкли преподносить Скрытую Истину крайне разочаровывающим образом, облекая её в ложную будничность.

Но если ячейки для секретных знаний не заполнить истинными убеждениями, они заполнятся ложными. Изучать нечего, кроме науки — эмоциональная энергия должна быть либо вложена в реальность, либо потрачена впустую на полную чушь, либо уничтожена. Что касается меня, я считаю, что лучше вкладывать эмоциональную энергию; не стоит попусту отказываться от веселья.

Сейчас мы получили худшее из обоих миров. Наука на самом деле не бесплатна, ведь курсы стоят дорого и учебники стоят дорого. Но публика считает, что раз это дозволено знать каждому, то это не так уж и важно.

В идеале хотелось бы устроить всё с точностью до наоборот.

*

213. Церемония посвящения.

Факелы, освещавшие узкую лестницу, горели яростно и каким-то неправильным цветом — их пламя походило на расплавленное золото или осколки разбитых солнц.

192... 193...

Сандалии Бреннана негромко цокали по каменным ступеням, щёлкая по очереди, словно очень медленно падающие костяшки домино.

227... 228...

На полвитка впереди него по лестнице с тихим шелестом скользил волочащийся подол темной ткани; сама фигура в мантии оставалась вне поля зрения.

239... 240...

«Недолго осталось», — мысленно прикинул Бреннан, и его догадка подтвердилась:

Шестнадцать раз по шестнадцать — таково было число ступеней, и теперь они стояли перед стеклянным порталом.

Огромные изогнутые ворота были созданы с хитроумием, юмором и пристальным вниманием к показателям преломления: они искажали свет, преломляли его, сворачивали и вообще всячески над ним издевались, так что сквозь них виднелись лишь намеки на происходящее по ту сторону (более яркие источники света, темные стены), но не было никакой возможности хоть что-то сквозь них разглядеть — если, конечно, у вас не было ключа: ответной двери, толстой в тонких местах первой и тонкой в толстых, — в этом случае они компенсировали бы друг друга.

Из-под мантии стоявшей рядом с Бреннаном фигуры показались две руки в перчатках из отражающей ткани, скрывавшей цвет кожи. Пальцы, похожие на узкие зеркала, ухватились за ручки изогнутых ворот — ручки, о наличии которых Бреннан и не догадывался; при таких оптических искажениях очертания можно было лишь предугадать, но не увидеть.

— Ты хочешь знать? — прошептал проводник. Этот шепот по громкости почти не уступал обычному голосу, но не выдавал ни малейшего намека на пол говорящего.

Бреннан помедлил. Ответ на этот вопрос казался подозрительно, даже чрезвычайно очевидным, даже для ритуала.

— Да, — наконец сказал Бреннан.

Проводник лишь молча смотрел на него.

— Да, я хочу знать, — повторил Бреннан.

— Знать что именно? — прошептала фигура.

Лицо Бреннана сосредоточенно сморщилось: он пытался просчитать эту игру до конца и надеялся, что еще не провалил испытание. В конце концов он прибег к первому и последнему средству — к правде:

— Это не имеет значения, — сказал Бреннан, — ответ всё равно «да».

Стеклянные ворота разошлись посередине и с едва слышным шорохом скрылись в толще камня.

Вдоль всех стен открывшейся комнаты выстроились фигуры в мантиях и капюшонах из поглощающей свет ткани. Прямые стены были сделаны не из черного камня, а из зеркал, которые отражали квадратную сетку темных мантий, уходящую во всех направлениях до бесконечности; казалось, будто здесь собрались жители какого-то огромного города или даже все человечество. В воздухе веяло влажным теплом от дыхания собравшихся — явственный запах толпы.

Проводник Бреннана прошел в центр квадрата, где горели четыре факела с тем самым неукротимым желтым пламенем. Бреннан последовал за ним, а остановившись, слегка вздрогнув, осознал, что все капюшоны теперь обращены прямо к нему. Никогда еще в жизни Бреннан не был объектом столь абсолютного внимания; это пугало, но ощущение было не из неприятных.

— Он здесь, — произнес проводник своим