Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

правило начисления очков всё равно остаётся в силе. Техническая модель может допускать возможность ошибок, совершать ошибки и при этом показывать себя лучше, чем полное неведение. В нашем примере с супермаркетом даже точная гипотеза о числе 51 ставит на 51 лишь 90% своей вероятностной массы; эта точная гипотеза утверждает лишь то, что 51 выпадает в девяти случаях из десяти. Игнорировать девять случаев выпадения 51, указывать на один случай 82 и победно кукарекать — ещё не значит опровергнуть теорию. Это не оправдание, а явное предварительное предсказание технической модели.

Слагаемое погрешности делает «точную» теорию уязвимой перед сверхточной альтернативой, которая предсказала бы появление 82. Стандартная модель также была бы уязвима перед моделью точного неведения, которая предсказала бы 60-процентную вероятность выпадения 51 в том раунде, где мы увидели 82, распределив правдоподобие для этой конкретной ошибки более энтропийно. Какой бы хорошей ни была теория, в науке всегда найдётся место для соперника, набирающего больше очков. Но если вы не предлагаете лучшей альтернативы, а пытаетесь лишь показать, что общепринятая теория глупа по отношению к имеющимся данным, эта научная задача может оказаться более сложной, чем простая замена старой теории новой.

Астрономы зафиксировали необъяснимое смещение перигелия Меркурия, которое не укладывалось в ньютоновскую физику — точнее, ньютоновская физика предсказывала 5557 угловых секунд за столетие, тогда как наблюдаемая величина составляла 5600.17 Но следовало ли ученым того времени отказаться от ньютоновской гравитации из-за столь мелкого, необъяснимого противоречия? Что бы они использовали взамен? В конце концов от ньютоновской теории гравитации действительно отказались — после того как общая теория относительности Эйнштейна точно объяснила орбитальную аномалию Меркурия, а также сделала успешные предварительные предсказания. Но заранее знать, что всё обернётся именно так, было невозможно.

В девятнадцатом веке наблюдалась устойчивая аномалия в орбите Урана. Люди говорили: «Возможно, закон Ньютона перестаёт работать на больших расстояниях». В конце концов несколько светлых голов взглянули на аномалию и спросили: «А не может ли это быть неизвестная внешняя планета?» Урбен Леверье и Джон Куч Адамс независимо друг от друга провели расчёты, используя стандартную теорию Ньютона, и предсказали положение Нептуна с точностью до одного углового градуса, тем самым триумфально подтвердив ньютоновскую гравитацию.18

Только после того как общая теория относительности точно рассчитала смещение перигелия Меркурия, мы поняли, что ньютоновская гравитация никогда не сможет его объяснить.

В «Интуитивном объяснении» мы видели, как догадка Карла Поппера о том, что фальсификация сильнее подтверждения, переводится на байесовский язык как истина об отношениях правдоподобия. Поппер ошибался, считая, что фальсификация качественно отличается от подтверждения; оба эти процесса подчиняются одним и тем же байесовским правилам. Однако философия Поппера отражала важную истину о количественном различии между фальсификацией и подтверждением.

На Поппера произвело глубокое впечатление различие между якобы «научными» теориями Фрейда и Адлера и революцией, которую произвела в физике теория относительности Эйнштейна в первые два десятилетия этого века. Главное различие между ними, как видел его Поппер, заключалось в том, что в то время как теория Эйнштейна была крайне «рискованной» — в том смысле, что из неё можно было вывести следствия, крайне невероятные с точки зрения господствовавшей тогда ньютоновской физики (например, что свет отклоняется в сторону массивных тел, что подтвердилось экспериментами Эддингтона в 1919 году), и опровергавшие всю теорию целиком в случае их ложности, — психоаналитические теории ничто не могло опровергнуть даже в принципе. Последние, как пришёл к выводу Поппер, имеют больше общего с первобытными мифами, нежели с подлинной наукой. То есть он понял, что кажущийся главный источник силы психоанализа и основное основание, на котором зиждется его претензия на научный статус, а именно способность приспосабливаться к любой возможной форме человеческого поведения и объяснять её — на самом деле является его критической слабостью, поскольку из этого следует, что он не имеет и не может иметь подлинно предсказательной силы. Психоаналитические теории по своей природе недостаточно точны, чтобы иметь негативные следствия, а потому они защищены от эмпирического опровержения…

Таким образом, Поппер отвергает индукцию, не соглашается с мнением, будто она является характерным методом научного исследования и вывода, и предлагает взамен фальсифицируемость. Он утверждает, что получить подтверждения в пользу практически любой теории очень легко, и поэтому считает, что подобное «подкрепление» (corroboration, как он его называет) должно иметь научный вес лишь в том случае, если оно является положительным результатом подлинно «рискованного» предсказания, которое вполне могло бы оказаться ложным. Для Поппера теория является научной лишь тогда, когда её может опровергнуть какое-либо мыслимое событие. Соответственно, любая подлинная проверка научной теории логически представляет собой попытку опровергнуть или фальсифицировать её…

Таким образом, всякая подлинная научная теория, по мнению Поппера, является запретительной в том смысле, что она имплицитно запрещает определённые события или явления.19

Согласно философии Поппера, сила научной теории заключается не в том, как много она объясняет, а в том, чего она не объясняет. Достоинство научной теории кроется не в тех исходах, которые она разрешает, а в тех, которые она запрещает. Теории Фрейда, которые, казалось, объясняли всё, не запрещали ничего.

Переводя это на байесовский язык, мы увидим, что чем больше исходов модель запрещает, тем большую плотность вероятности она концентрирует на оставшихся, разрешённых исходах. Чем больше исходов запрещает теория, тем больше содержащегося в ней знания. Чем смелее теория подставляется под фальсификацию, тем определённее она говорит вам, каких наблюдений следует ожидать.

Теория, способная объяснить любой опыт, соответствует гипотезе полного неведения — равномерному распределению, при котором плотность вероятности ровным слоем размазана по всем возможным исходам.

Флогистон стал ответом восемнадцатого века на Стихийный Огонь греческих алхимиков. Теорию флогистона нельзя было использовать для предсказания результата химического превращения: сначала вы смотрели на результат, а затем привлекали флогистон, чтобы его объяснить. Теория флогистона была бесконечно гибкой — замаскированной гипотезой нулевого знания. Точно так же теория витализма не объясняет, как двигается рука, и не говорит, каких превращений ожидать от органической химии; и уж конечно витализм не позволяет проводить никаких количественных расчётов.

Обратная сторона:

Остерегайтесь мышления «по списку»: наличие священной тайны или таинственного ответа — это вовсе не то же самое, что отказ от объяснений. Некоторые элементы нашей физики принимаются как «фундаментальные» — пока ещё не сведённые к чему-то более простому и не объяснённые глубже. Но эти фундаментальные элементы нашей физики подчиняются чётко определённым, математически простым, формально вычислимым причинно-следственным правилам.

Время от времени какой-нибудь лжеучёный возражает против современной физики на том основании, что она не предлагает «лежащего в основе механизма»