Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

(Я сильно подозреваю, что главная проблема с пиаром науки среди широких масс заключается в том, что люди инстинктивно считают: если знание раздаётся даром, значит, оно не может быть важным. Если бы для того, чтобы узнать правду об эволюции, нужно было пройти через пугающий ритуал посвящения, возможно, люди относились бы к этому ответу с бóльшим благоговением.)

Совсем нелестная трактовка состоит в том, что радость первооткрывателя замешана на статусе. На конкуренции. На дефиците. На стремлении обойти всех на повороте. Неважно, трёхкомнатный у тебя дом или четырёхкомнатный; важно, чтобы он был больше, чем у Джонсов. Двухкомнатный дом тоже сойдёт, если только гарантировать, что у Джонсов жильё ещё меньше.

Я принципиально не возражаю против соперничества. Я не считаю игру го варварской и не призываю её запретить, несмотря на то что это игра с нулевой суммой. Но если эйфория научного открытия должна быть завязана на дефиците, это означает, что для каждой конкретной истины она доступна лишь одному человеку на всю цивилизацию.

Если радость научного открытия выдается строго «один раз на одно открытие», то с точки зрения теории веселья Ньютон, вероятно, израсходовал изрядную долю всего «физического удовольствия», доступного за всю историю зародившейся на Земле разумной жизни. Этот эгоистичный засранец объяснил орбиты планет и приливы.

На самом деле всё ещё хуже, ведь в Стандартной модели физики (открытой засранцами, которые испортили головоломку всем остальным) Вселенная пространственно бесконечна, инфляционно ветвится и ветвится за счёт декогеренции, а это как минимум три разных способа, которыми Реальность масштабируется до экспоненциальных или бесконечных величин.

Так что инопланетяне, или альтернативные Ньютоны, или просто тегмарковские двойники Ньютона могли открыть гравитацию раньше, чем наш Ньютон, — если вы, конечно, верите, что слово «раньше» вообще имеет смысл при подобных разделениях.

Когда эта мысль впервые пришла мне в голову, она меня даже воодушевила. Осознав, что кто-то где-то в просторах пространства и времени уже знает ответ на любой разрешимый вопрос — даже на вопросы биологии и истории (ведь существуют другие декогерентные Земли), — я понял, как глупо думать, будто радость открытия должна принадлежать кому-то одному. Иначе это превратилось бы в неизбежный источник неразрешимой экзистенциальной тревоги, а это я считаю сведением к абсурду.

Непротиворечивое решение, сохраняющее возможность получать удовольствие, — это перестать беспокоиться о том, что знают другие. Если вы не знаете ответа, для вас это тайна. Если вы можете поднять руку и сжать пальцы в кулак, но понятия не имеете, как ваш мозг это делает — и даже какие именно мышцы находятся под вашей кожей, — вам придётся признать себя столь же невежественным, как и первобытный охотник-собиратель. Конечно, кто-то другой знает ответ — но и в эпоху охотников-собирателей кто-то на альтернативной Земле или, если уж на то пошло, в будущем тоже знал этот ответ. Тайна и радость открытия — это вещь либо сугубо личная, либо её вообще не существует, и я предпочитаю считать, что она личная.

Радость от помощи своей цивилизации — когда ты сообщаешь ей то, чего она ещё не знает, — действительно обычно бывает однократной для каждого открытия в рамках одной цивилизации; ценность такого рода подчиняется закону сохранения — как и Нобелевские премии. И перспектива такой награды, возможно, — как раз то, что нужно, чтобы удерживать ваше внимание на одной проблеме в течение долгих лет, необходимых для выработки по-настоящему глубокого понимания; к тому же работа над проблемой, неизвестной вашей цивилизации, — это верный способ избежать спойлеров.

Но в рамках моего общего проекта по развенчанию мифа о том, что рационалисты получают меньше удовольствия от жизни, я хочу вернуть магию и тайну в каждую область мира, которую вы лично не понимаете, независимо от того, какие ещё знания могут существовать далеко в пространстве и времени или даже в голове вашего соседа. Если этого не знаете вы, значит, это тайна. А теперь подумайте, как много вещей вы не знаете! (Если ничего не приходит в голову, у вас совсем другие проблемы.) Разве мир внезапно не стал гораздо более таинственным, волшебным и интересным местом? Как будто вас перенесли в альтернативное измерение, где вам нужно изучать все правила с нуля?

Один друг как-то сказал мне, что я смотрю на мир так, словно никогда раньше его не видел. Я подумал: какой приятный комплимент... Постойте! Но ведь я и правда никогда раньше его не видел! Что — неужели всем остальным устроили предпоказ?

— Рэн Приор

*

204. Привяжите себя к реальности. Возможно, вы читаете всё это и спрашиваете: «Да, но какое отношение это имеет к редукционизму?».

Отчасти дело в том, чтобы оставить себе путь к отступлению. Нелегко разбирать на части нечто важное, когда вы убеждены, что это лишает мир магии, расплетает радугу. В этой книге я действительно планирую разобрать некоторые вещи, и мне бы не хотелось вызывать бессмысленную экзистенциальную тревогу.

Отчасти это крестовый поход против голливудской рациональности — представления о том, что понимание радуги убавляет её красоту. Радуга всё ещё прекрасна, плюс к этому вы получаете красоту физики.

Но на ещё более глубоком уровне это одна из тех тонких вещей, что составляют скрытое ядро рациональности. Ну, знаете, из тех, когда я начинаю говорить о «Пути». Речь идёт о том, чтобы привязать себя к реальности.

В одной из книг Фрэнка Герберта о Дюне, если я правильно помню, говорится, что Правдовидец обретает способность распознавать чужую ложь благодаря тому, что сам всегда говорит только правду; таким образом у него складываются с истиной такие отношения, нарушение которых он чувствует. В жизни это бы не сработало, но мне всё равно кажется, что это одна из самых красивых мыслей в художественной литературе. По крайней мере, чтобы приблизиться к истине, вы должны быть готовы прижаться к реальности как можно плотнее — не отпрядывая и не глядя на неё свысока.

Тему «привязки к реальности» можно увидеть в главе «Лотереи: напрасная надежда». Понимание того, что лотерейные билеты имеют отрицательное математическое ожидание, не означает, что вы отказываетесь от надежды разбогатеть. Это означает, что вы перестаёте тратить эту надежду впустую на лотерейные билеты. Вы направляете её на свою работу, учёбу, стартап или подработку на eBay; а если у вас действительно нет ничего, на что стоило бы надеяться, то, возможно, самое время начать поиски.

Я возражаю