Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

и не менее вероятны, вы действительно сделали огромную часть работы по убеждению. Всё, о чём думают, воспринимается как «участник забега», и если другие бегуны слегка отстают, то предполагается, что этот участник продвигается вперёд или даже выходит в лидеры.

И да, это та же самая ошибка, совершаемая в гораздо более вопиющих масштабах теистом, который указывает на то, что современная наука не предлагает абсолютно полного объяснения всей вселенной, и видит в этом свидетельство существования Иеговы, а не Аллаха, Летающего Макаронного Монстра или триллиона других богов, ничуть не менее сложных, — не говоря уже о пространстве натуралистических объяснений!

Рассуждать о «разумном замысле» всякий раз, когда вы указываете на мнимый изъян или нерешённую проблему в теории эволюции, — это снова привилегирование гипотезы: вы должны уже иметь на руках свидетельства, указывающие именно на разумный замысел, чтобы обосновать привлечение нашего внимания именно к этой идее, а не к тысяче других.

Вот и здравое правило. Соответствующая же антиэпистемология состоит в том, чтобы бесконечно твердить о «возможности» и о том, что идею «нельзя опровергнуть», надеяться, что будущие свидетельства подтвердят её, не предъявляя уже имеющихся на руках прошлых свидетельств, без конца рассуждать о возможностях без оценки потенциально неблагоприятных свидетельств, рисовать радужные картины подтверждающих наблюдений, которые могли бы произойти, но ещё не произошли, или пытаться показать, что одно за другим опровергающие свидетельства «не окончательны».

Подобно тому как бритва Оккама гласит, что более сложные утверждения требуют больше свидетельств, чтобы в них поверить, более сложные утверждения также должны требовать больше работы, чтобы удостоиться внимания. И так же как принцип обременительных деталей требует, чтобы каждая часть убеждения обосновывалась отдельно, он требует, чтобы каждая часть отдельно привлекала к себе внимание.

Как обсуждалось в «Убеждениях как вечных двигателях», вера и вечные двигатели второго рода (вода → кубики льда + электричество) похожи тем, что они якобы создают маловероятность из ничего — будь то маловероятность того, что вода сама превратится в кубики льда, или маловероятность прихода к верным убеждениям без наблюдений. Порой большая часть «антиработы», связанной с производством этой маловероятности, уходит на то, чтобы заставить нас обратить внимание на необоснованное убеждение — думать о нём, зацикливаться на нём. В широких пространствах ответов внимание без свидетельств — это больше половины пути к вере без свидетельств.

Тот, кто проводит весь день в размышлениях о том, существует ли Троица или нет (а не Аллах, Тор или Летающий Макаронный Монстр), уже больше чем наполовину пришёл к христианству. Если он отходит от него, то отдалился меньше чем наполовину; если приближается — преодолел уже больше половины пути.

Часто встречающийся способ привилегирования гипотезы состоит в том, чтобы попытаться заставить неопределённость внутри некоторой области выплеснуться за её пределы на привилегированную гипотезу. Например, креационист цепляется за какой-нибудь (якобы) спорный аспект современной теории, заявляет, что учёные не уверены в эволюции, а затем говорит: «Мы на самом деле не знаем, какая теория верна, так что, возможно, верен разумный замысел». Но эта неопределённость — это неопределённость внутри области натуралистических теорий эволюции; у нас нет причин полагать, что для её разрешения нам придётся покинуть эту область, и уж тем более — что мы выпрыгнем за рамки стандартной науки и приземлимся прямиком на Иегову. Это и есть выделение гипотезы — взять сомнение внутри нормального пространства и попытаться выплеснуть это сомнение за его пределы, на привилегированную (и обычно дискредитированную) крайне аномальную цель.

Точно так же наша неопределённость относительно того, откуда берётся статистика Борна, должна быть неопределённостью внутри пространства квантовых теорий — непрерывных, линейных, унитарных, досветовых, локальных, причинных, натуралистичных и так далее, то есть обладающих привычным характером физического закона. Какая-то часть этой неопределённости может выплеснуться за пределы стандартного пространства на теории, нарушающие одно из этих стандартных свойств. Действительно, возможно, нам придётся мыслить нестандартно. Но теории одного мира нарушают все эти свойства, и нет никаких причин привилегировать эту гипотезу.

*

237. Жизнь во многих мирах.

Некоторые комментаторы недавно выразили беспокойство при мысли о том, что они постоянно разделяются на зиллионы других людей, как это прямо и неизбежно предсказывает квантовая механика.

Другие признались, что не понимают следствий многомировой интерпретации для планирования: если вы решите пристегнуть ремень безопасности в этом мире, увеличит ли это шанс того, что другое ваше «я» свой ремень отстегнет? Не поступаете ли вы эгоистично за их счет?

Просто помните закон Игана: в сумме всё это даёт нормальность.

(Вслед за Грегом Иганом, в романе «Карантин».1)

Фрэнк Салловэй сказал:2

Ирония в том, что психоанализ выигрывает у дарвинизма именно потому, что его предсказания так дики, а объяснения настолько противоречат интуиции, что мы думаем: «Неужели это правда? Как радикально!» Идеи Фрейда настолько интригуют, что люди готовы платить за них деньги, в то время как один из главных недостатков дарвинизма в том, что нам кажется, будто мы его и так знаем, — потому что в каком-то смысле так и есть.

Когда Эйнштейн опроверг ньютоновскую версию гравитации, яблоки не перестали падать, а планеты не рухнули на Солнце. Каждая новая физическая теория должна вбирать в себя успешные предсказания старой теории, которую она вытесняет; она должна предсказывать, что небо будет голубым, а не зелёным.

Так что не думайте, будто многомировая интерпретация существует для того, чтобы делать странные, радикальные, будоражащие предсказания. В сумме всё это даёт нормальность.

Тогда почему это вообще должно кого-то волновать?

Потому что однажды был задан вопрос, крайне увлекательный для рационалиста: что именно в сумме даёт нормальность?

И ответом на этот вопрос оказывается: квантовая механика. Именно квантовая механика в сумме даёт нормальность.

Если бы вместо квантовой механики было что-то другое, вот тогда мир выглядел бы странным и непривычным.

Помните об этом, когда размышляете, как жить в странной новой вселенной множества миров: вы всегда там и жили.

Религии, как говорят нам антропологи, обычно обладают свойством под названием минимальная контринтуитивность: они достаточно поразительны, чтобы запомниться, но не настолько причудливы, чтобы их было трудно усвоить. У Анубиса голова собаки, что делает его запоминающимся, но в остальном у него тело человека. Духи могут видеть сквозь стены, но они всё равно испытывают голод.

Но физика — это не религия, созданная для того, чтобы удивлять вас ровно настолько, чтобы запомниться. Глубинные явления настолько контринтуитивны, что людям требуются годы обучения, чтобы с ними