Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Это демонстрирует, что результат маммографии не заменяет имевшуюся ранее информацию о шансах пациентки на заболевание; маммография лишь сдвигает расчетную вероятность в направлении полученного результата. Положительный результат сдвигает исходную вероятность вверх, отрицательный — вниз. Например, в исходной задаче, где рак есть у 1% женщин, 80% женщин с раком получают положительный результат, а 9,6% женщин без рака также получают положительный результат, положительный результат маммографии сдвигает исходный 1-процентный шанс вверх, до 7,8%.

Большинство людей, впервые сталкиваясь с подобными задачами, совершают мысленную операцию замены исходной 1-процентной вероятности на 80-процентную вероятность того, что женщина с раком получит положительный результат. На первый взгляд это может показаться логичным, но так это просто не работает. «Вероятность того, что у женщины с положительной маммограммой есть рак груди» — совсем не то же самое, что «вероятность того, что женщина с раком груди получит положительную маммограмму»; они отличаются друг от друга так же сильно, как яблоки и сыр.

В. Зачем байесовец перешел дорогу?

О. Чтобы ответить на этот вопрос, вам нужно больше информации.

Представьте, что в бочке лежит много маленьких пластиковых яиц. Одни покрашены в красный цвет, другие — в синий. 40% яиц в бочке содержат жемчужины, а 60% — пустые. 30% яиц с жемчужинами покрашены в синий цвет, и 10% пустых яиц тоже покрашены в синий цвет. Какова вероятность того, что в синем яйце окажется жемчужина? В этом примере арифметика достаточно проста, чтобы вы могли сосчитать всё в уме, и я рекомендую вам попробовать это сделать.

Более компактная формулировка этой задачи:

P(жемчужина) = 40%

P(синее|жемчужина) = 30%

P(синее|¬жемчужина) = 10%

P(жемчужина|синее) = ?

Символ «¬» служит сокращением для отрицания «не», так что «¬жемчужина» читается как «не жемчужина».

Запись P(синее|жемчужина) — это сокращение для выражения «вероятность синего при условии жемчужины» или «вероятность того, что яйцо синее, при условии, что в нем лежит жемчужина». Элемент справа — это то, что вы уже знаете, или посылка, а элемент слева — это следствие или вывод. Если P(синее|жемчужина) = 30% и уже знаем, что в некоем яйце лежит жемчужина, мы можем сделать вывод, что вероятность синей окраски этого яйца равна 30%. Таким образом, искомый факт — «шанс того, что в синем яйце лежит жемчужина», или «вероятность того, что в яйце лежит жемчужина, если мы знаем, что оно синее», — записывается как P(жемчужина|синее).

40% яиц содержат жемчужины, а 60% яиц пустые. 30% яиц с жемчужинами синие, следовательно, всего 12% всех яиц содержат жемчужины и при этом синие. 10% пустых яиц синие, следовательно, всего 6% всех яиц — пустые и синие. В общей сложности 18% всех яиц синие, и из них 12% всех яиц — синие и содержат жемчужины, так что шанс найти жемчужину в синем яйце составляет 12/18, или 2/3, то есть около 67%.

Как и прежде, необходимость всех трех фрагментов информации можно увидеть, если рассмотреть крайние случаи. В (большой) бочке, где лишь одно яйцо из тысячи содержит жемчужину, знание того, что яйцо окрашено в синий цвет, сдвигает вероятность с 0,1% до 0,3% (вместо сдвига с 40% до 67%). Аналогично, если 999 из 1000 яиц содержат жемчужины, знание того, что яйцо синее, сдвигает вероятность с 99,9% до 99,966%; при этом вероятность того, что яйцо не содержит жемчужины, падает с 1/1000 примерно до 1/3000.

В задаче о жемчужинах и яйцах большинство респондентов, не знакомых с байесовским рассуждением, скорее всего, ответят, что вероятность того, что в синем яйце лежит жемчужина, равна 30% или, возможно, 20% (30-процентная вероятность истинно положительного результата минус 10-процентная вероятность ложноположительного). Даже если в тот момент такая мысленная операция кажется хорошей идеей, она совершенно бессмысленна в контексте заданного вопроса. Это похоже на эксперимент, в котором второклассника спрашивают: «Если в автобус сели восемнадцать человек, а потом сели еще семь, то сколько лет водителю?» Многие второклассники ответят: «Двадцать пять». Они понимают, когда их побуждают выполнить определенную мысленную процедуру, но еще не вполне связали эту процедуру с реальностью. Точно так же, когда нужно найти вероятность того, что у женщины с положительным результатом маммографии есть рак груди, совершенно бессмысленно подменять исходную вероятность того, что у женщины рак, вероятностью того, что женщина с раком груди получит положительный результат маммографии. Нельзя также и вычитать вероятность ложноположительного результата из вероятности истинно положительного. Эти операции настолько же не имеют отношения к делу, как и сложение количества людей в автобусе для нахождения возраста водителя.

Исследование Гигеренцера и Хоффраге в 1995 году показало, что некоторые способы формулировки текстовых задач гораздо лучше наводят на правильное байесовское мышление.4 Наименее наводящая на верный путь формулировка использовала вероятности. Чуть более наводящая на верный путь формулировка использовала частоты вместо вероятностей: задача оставалась прежней, но вместо утверждения, что рак груди есть у 1% женщин, говорилось, что рак груди есть у 1 из 100 женщин, что 80 из 100 женщин с раком груди получат положительный результат маммографии, и так далее. Почему большая доля испытуемых рассуждала по-байесовски в этой задаче? Вероятно, потому, что фраза «1 из 100 женщин» побуждает конкретно представить себе X женщин с раком, что ведет к представлению X женщин с раком и положительным результатом маммографии и так далее.

Самым эффективным из найденных на данный момент способов подачи информации оказался метод так называемых естественных частот — когда говорится, что 40 из 100 яиц содержат жемчужины, 12 из 40 яиц с жемчужинами окрашены в синий цвет, а 6 из 60 пустых яиц окрашены в синий цвет. Подача информации в естественных частотах — это способ, при котором сведения об априорной вероятности уже заложены в формулировку условных вероятностей. Если бы вы узнавали об условных вероятностях для яиц путем естественного эксперимента, то в процессе разбивания сотни яиц вы бы открыли около 40 яиц с жемчужинами (из которых 12 оказались бы синими) и 60 пустых яиц (из которых синими оказались бы около 6). В ходе изучения условных вероятностей вы бы сталкивались с примерами синих яиц, содержащих жемчужины, примерно в два раза чаще, чем с примерами синих пустых яиц.

К сожалению, хотя естественные частоты — это шаг в правильном направлении, одного этого, скорее всего, будет мало. Когда задачи формулируются в естественных частотах, доля людей, использующих байесовское мышление, вырастает примерно до половины. Огромный прогресс, но все