Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Но в теории вероятностей отсутствие свидетельств — это всегда свидетельство отсутствия. Если E — бинарное событие и P(H|E) > P(H), то есть наблюдение E увеличивает вероятность гипотезы H, то P(H|¬E) < P(H), то есть то, что E не произошло, уменьшает вероятность H. Вероятность P(H) представляет собой взвешенную смесь P(H|E) и P(H|¬E) и обязательно лежит между ними. Если всё это кажется вам запутанным, обратитесь к статье «Интуитивное объяснение байесовского рассуждения».

В подавляющем большинстве реальных жизненных ситуаций причина может не всегда надежно порождать свои признаки, однако при отсутствии причины появление этих признаков еще менее вероятно. Отсутствие наблюдения может быть сильным или очень слабым свидетельством отсутствия — в зависимости от того, насколько вероятно появление этого наблюдения при наличии причины. Отсутствие наблюдения, которое допускается лишь с малой вероятностью (даже если альтернативная гипотеза исключает его полностью), служит очень слабым свидетельством отсутствия (хотя, тем не менее, им служит). В этом и заключается ложность аргумента о «пробелах в палеонтологической летописи»: окаменелости образуются крайне редко; бессмысленно трубить об отсутствии слабовероятного наблюдения, когда уже зафиксировано множество убедительных положительных наблюдений. Но если никаких положительных наблюдений вообще нет, самое время забеспокоиться; отсюда и проистекает парадокс Ферми.

Ваша сила как рационалиста заключается в способности испытывать большее замешательство от вымысла, чем от реальности; если вы одинаково успешно объясняете любой исход, ваши знания равны нулю. Сила модели заключается не в том, что она может объяснить, а в том, чего она не может, ибо только запреты ограничивают ожидания. Если вы не замечаете, когда ваша модель делает свидетельство маловероятным, то у вас с тем же успехом может не быть вообще никакой модели, равно как и никаких свидетельств; ни мозга, ни глаз.

*

1. Робин М. Доуз, Rational Choice in An Uncertain World, 1st ed., ed. Jerome Kagan (San Diego, CA: Harcourt Brace Jovanovich, 1988), 250-251.

28. Закон сохранения ожидаемого свидетельства.

Фридрих Шпее фон Лангенфельд, священник, принимавший исповеди осужденных ведьм, написал в 1631 году книгу Cautio Criminalis («Осмотрительность в уголовных делах»), в которой едко описал дерево решений для вынесения приговора обвиняемым в колдовстве: если ведьма вела порочную и неблагопристойную жизнь, она была виновна; если она вела праведную и благопристойную жизнь, это тоже служило доказательством, ибо ведьмы лицемерят и пытаются казаться особенно добродетельными. После того как женщину бросали в тюрьму: если она боялась, это доказывало её вину; если она не боялась, это тоже доказывало её вину, ибо ведьмам свойственно притворяться невиновными и держаться дерзко. Или же, прослышав о доносе на себя, она могла пуститься в бега или остаться; если она бежала, это доказывало её вину; если оставалась, значит, дьявол удерживал её, чтобы она не могла уйти.

Шпее исповедовал многих ведьм и потому имел возможность наблюдать каждую ветвь дерева обвинения. Что бы ни делала и ни говорила обвиняемая, всё это использовалось как доказательство против неё. В любом конкретном случае вы услышали бы лишь одну из ветвей этой дилеммы. Именно поэтому учёные записывают свои экспериментальные предсказания заранее.

Но нельзя играть в обе стороны — и это требование теории вероятностей, а не просто справедливости. Правило «отсутствие свидетельств является свидетельством отсутствия» — это частный случай более общего закона, который я бы назвал законом сохранения ожидаемого свидетельства: математическое ожидание апостериорной вероятности после получения свидетельства должно быть равно априорной вероятности.

P(H) = P(H,E) + P(H,¬E)

P(H) = P(H|E) × P(E) + P(H|¬E) × P(¬E)

Следовательно, для любого ожидания свидетельства существует равное ему и противоположное ожидание контрсвидетельства.

Если вы с высокой вероятностью ожидаете увидеть слабое свидетельство в одном направлении, это должно уравновешиваться слабой вероятностью увидеть сильное свидетельство в другом направлении. Если вы очень уверены в своей теории и потому предвидите исход, соответствующий вашей гипотезе, это может дать лишь ничтожно малый прирост вашей убеждённости (она и так уже близка к 1); но неожиданный провал вашего предсказания нанесёт (и должен нанести) вашей уверенности сокрушительный удар. В среднем вы должны ожидать, что ваша уверенность останется ровно такой же, какой была вначале. Иными словами, одно лишь ожидание столкнуться со свидетельством — до того, как вы его действительно увидели, — не должно сдвигать ваши априорные убеждения. (Опять же, если это не кажется интуитивно очевидным, см. статью «Интуитивное объяснение байесовского рассуждения».)

Поэтому если вы утверждаете, что «отсутствие саботажа» — это свидетельство в пользу существования «пятой колонны» среди американцев японского происхождения, вы должны, напротив, считать, что факт саботажа свидетельствовал бы против существования «пятой колонны». Если вы утверждаете, что «праведная и благопристойная жизнь» доказывает, что женщина — ведьма, то порочная и неблагопристойная жизнь должна доказывать, что она не ведьма. Если вы утверждаете, что Бог, желая испытать веру человечества, отказывается явить Своё существование, то чудеса, описанные в Библии, должны свидетельствовать против существования Бога.

Звучит как-то неправильно, не так ли? Обратите внимание на это ощущение: «это кажется немного натянутым», на это тихое напряжение где-то на задворках сознания. Это важно.

Для истинного байесовца невозможно искать свидетельства, которые подтверждают теорию. Вы не сможете составить ни одного плана, изобрести ни одной хитрой стратегии или уловки, которые позволили бы вам обоснованно ожидать, что ваша уверенность в определённом суждении станет в среднем выше, чем была до этого. Вы можете искать свидетельства только для того, чтобы проверить теорию, но не для того, чтобы подтвердить её.

Это осознание может снять огромный груз с души. Вам больше не нужно беспокоиться о том, как истолковать любой возможный результат эксперимента так, чтобы он подтвердил вашу теорию. Не нужно утруждать себя планированием того, как заставить любую мельчайшую крупицу свидетельств подтверждать вашу теорию, ведь вы знаете, что для каждого ожидания свидетельства существует равное и противоположное ожидание контрсвидетельства. Если вы попытаетесь ослабить контрсвидетельство возможного «аномального» наблюдения, вы сможете сделать это только за счёт ослабления поддержки от «нормального» наблюдения — в строго равной и противоположной степени. Это игра с нулевой суммой. Как бы вы ни изощрялись, какие бы доводы ни приводили, какие бы стратегии ни строили, вы никак не можете рассчитывать на то, что выработанный план действий ваши убеждения (в среднем) сдвинутся в определённую сторону.

Так что вам остаётся только расслабиться и спокойно ждать, пока появятся