Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

освоиться. Но поверхностные явления совершенно обыденны. Вы никогда не заметите краем глаза другой мир. Вы никогда не услышите голос другого своего «я». Это недвусмысленно и напрочь запрещено законами природы. Извините, вы просто шизофреник.

Процесс принятия решений никак по-особенному не взаимодействует с процессом ветвления миров. В вашем разуме, в вашем воображении решение кажется точкой ветвления, где мир может пойти по одному из двух разных путей. Но вы испытывали бы точно такую же неопределенность и представляли бы точно такие же альтернативы, будь мир всего один. Именно так люди думали веками до появления квантовой механики, и всё равно представляли себе альтернативные исходы, к которым могут привести их решения.

Принятие решений и декогеренция — совершенно ортогональные понятия. Если бы в вашем мозгу никогда не происходило декогеренции, этот единый когнитивный процесс всё равно должен был бы воображать разные варианты выбора и их различные последствия. А камень, который никаких решений не принимает, подчиняется тем же законам квантовой механики, что и всё остальное, и неистово расщепляется, просто лёжа на одном месте.

Вы не разделяетесь в момент принятия решения как-то по-особенному — точно так же, как вы не разделяетесь по-особенному, когда делаете вдох. Вы просто постоянно разделяетесь в результате декогеренции, которая не имеет никакого отношения к выбору.

Существует популяция миров, и в каждом мире всё это в сумме даёт нормальность: яблоки не перестают падать. В каждом мире люди выбирают тот путь, который кажется им наилучшим. Возможно, они натыкаются на другой ход мыслей, видят новые следствия или упускают другие и приходят к иному выбору. Но дело не в том, что каждый мир делает свой выбор. Не в том, что одна версия вас выбирает то, что кажется лучшим, а другая — то, что кажется худшим. В каждом мире яблоки продолжают падать, а люди продолжают делать то, что кажется им хорошей идеей.

Да, в этом правиле можно выискивать исключения, но это нормальные исключения. В конечном итоге всё сводится к нормальности во всех мирах.

Вы не можете «выбрать, в каком мире оказаться». Во всех мирах выбор людей определяет результаты точно так же, как это происходило бы в одном-единственном мире.

Выбор, который вы делаете здесь, не оказывает какого-то странного балансирующего влияния на какой-то другой мир. Между декогерентными мирами нет причинно-следственной связи. В каждом мире выбор людей определяет будущее этого самого мира, а не какого-то другого.

Если вы можете представить себе принятие решений в одном мире, вы можете представить себе принятие решений и во многих мирах: просто пусть мир постоянно расщепляется, в остальном подчиняясь тем же самым правилам.

Ни в одном мире дважды два не равно пяти. Ни в одном мире космические корабли не могут летать быстрее света. Все квантовые миры подчиняются нашим законам физики; само их существование утверждается прежде всего нашими законами физики. С самого начала времён ни в этом, ни в каком-либо другом мире не произошло ничего необычного. Все они законосообразны.

Есть ли где-то там ужасные миры, на которые вы совершенно не способны повлиять? Конечно. И в двенадцатом веке происходили ужасные вещи, на которые вы тоже никак не можете повлиять. Но вы не несете ответственности за двенадцатый век, потому что он, как выражаются старомодным слогом, «уже прошёл». Я бы предложил вам относиться к любому миру, который не лежит в вашем будущем, как к части «обобщённого прошлого».

Живите в своём собственном мире. До того, как вы узнали о квантовой физике, у вас не возникало искушения попытаться жить в мире, который, казалось, не существовал. Ваши решения должны сводиться к той же нормальности: вам не следует пытаться жить в квантовом мире, с которым вы не можете связаться.

Ваша теория решений должна быть (почти всегда) одной и той же — предполагаете ли вы, что вероятность какого-то события равна 90%, или же что оно произойдёт в 9 из 10 миров. Поскольку людям бывает трудно работать с вероятностями, визуализировать событие, происходящее в 9 из 10 миров, действительно может быть полезно. Но это лишь помогает вам использовать обычную теорию решений.

Сейчас самое время начать учиться тому, как заткнуться и умножать. Как я отмечаю в эссе «Лотереи: пустая надежда»:

Человеческий мозг не производит 64-битных вычислений с плавающей точкой и не способен уменьшить эмоциональную силу приятного предвкушения в 0,00000001 раза без того, чтобы полностью не потерять нить рассуждений.

И в «Новой улучшенной лотерее»:

Между нулевым шансом стать богатым и шансом, равным эпсилон, существует разница порядка эпсилон. Если вы сомневаетесь в этом, пусть эпсилон будет равен единице, делённой на гуголплекс.

Если вы размышляете о мире, который мог бы возникнуть законосообразным путём, но вероятность которого составляет один к квадриллиону, и в этом мире происходит что-то очень приятное или очень ужасное... что ж, он, вероятно, действительно существует, коль скоро он законосообразен. Но вам следовало бы попытаться выделить в один квадриллион раз меньше нейромедиаторов в ваших центрах вознаграждения или избегания, чтобы вы могли адекватно взвесить этот мир в ваших решениях. Если вы не думаете, что способны на такое... не утруждайте себя размышлениями о нём.

Иначе вы с тем же успехом можете пойти и купить лотерейный билет с помощью квантового случайного числа — эта стратегия гарантированно приведёт к крошечному мегавыигрышу.

Или вот вам другой способ думать об этом: вы подумываете потратить часть мысленной энергии на мир, доля которого в вашем будущем меньше одной триллионной? Тогда сходите в местный магазин настольных игр за 10-гранным кубиком и, прежде чем начать думать об этом странном мире, начните его бросать. Если кубик покажет девятку двенадцать раз подряд, тогда вы можете подумать об этом мире. В противном случае не тратьте время; время на размышления — это ресурс, который нужно расходовать с умом.

Вы можете бросать кубик сколько угодно, но вам нельзя думать об этом мире, пока девятка не выпадет двенадцать раз подряд. После этого вы можете поразмышлять о нём минуту. А затем вам придётся снова бросать кубик.

Это поможет вам осознать концепцию «один к триллиону» на более глубинном уровне.

Если в какой-то момент вы поймаете себя на мысли, что квантовая физика может нести какие-то странные, аномальные последствия для повседневной жизни — то на этом вам, пожалуй, стоит остановиться.

О, у многомирия есть несколько следствий для этики. Утилитаризм средней полезности внезапно выглядит гораздо более привлекательным: вам больше не нужно беспокоиться о том, чтобы создать как можно больше людей, ведь людей, исследующих пространство