Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

*

117. Эксперимент Аша на конформность.

Соломон Аш в своих экспериментах, впервые проведенных в 1950-х годах и с тех пор неоднократно успешно воспроизведенных, наглядно показал феномен, ныне известный как «конформность». В классическом эксперименте испытуемому показывают задачу, похожую на ту, что приведена на схеме рядом: какая из линий A, B и C имеет ту же длину, что и линия X? Остановитесь на секунду и найдите собственный ответ...

Подвох в том, что испытуемый сидит рядом с другими людьми, которые тоже смотрят на схему, — на первый взгляд, такими же участниками, а на самом деле — подставными лицами (помощниками экспериментатора). Другие «испытуемые» в эксперименте один за другим заявляют, что линия C кажется такой же длины, как и X. Настоящий испытуемый сидит предпоследним. Сколько людей в такой ситуации ответят «C» — то есть дадут заведомо неверный ответ, чтобы согласиться с единогласным мнением остальных? Как вы думаете, каков будет процент?

Три четверти испытуемых в эксперименте Аша дали «конформный» ответ по крайней мере один раз. Треть испытуемых проявляли конформность более чем в половине случаев.

Опросы после эксперимента показали: хотя большинство испытуемых утверждали, будто сами не верили в свои конформные ответы, некоторые признались, что действительно считали конформный вариант правильным.

Результаты встревожили Аша:

То, что тенденция к конформизму в нашем обществе оказалась столь сильной... вызывает серьезное беспокойство. Это поднимает вопросы о нашей системе образования и о ценностях, которыми мы руководствуемся в своем поведении.1

Вопрос о том, вели ли себя испытуемые в экспериментах Аша иррационально, далеко не тривиален. Теорема Аумана о согласии показывает, что честные байесианцы не могут согласиться остаться при своем мнении: если их оценки вероятностей являются общим знанием, то эти оценки должны совпадать. Теорема Аумана о согласии была доказана более чем через двадцать лет после экспериментов Аша, но она лишь формализует и подкрепляет интуитивно очевидную вещь: убеждения других людей часто служат весомым свидетельством.

Если бы вы смотрели на схему, подобную приведенной выше, но точно знали, что остальные участники эксперимента честны и видят ту же схему, что и вы, и трое других людей сказали бы, что C — той же длины, что и X, то каковы шансы, что только вы правы? Я не претендую на превосходство в визуальном мышлении — не думаю, что я лучше среднего человека определяю, одинаковой ли длины две линии. С точки зрения индивидуальной рациональности, я надеюсь, что заметил бы собственное сильное замешательство и затем оценил бы вероятность правоты большинства в >50%.

С точки зрения групповой рациональности, мне кажется, честный рационалист должен сказать следующее: «Как удивительно, мне кажется, что B — такой же длины, как и X. Но если мы все смотрим на одну и ту же схему и отвечаем честно, у меня нет причин полагать, что моя оценка лучше вашей». Последняя фраза важна — это куда менее категоричное заявление о разногласии, чем: «О, я вижу оптическую иллюзию — я, конечно, понимаю, почему вы думаете, что это C, но на самом деле правильный ответ — B».

Так что, судя по тому, что я описал до сих пор, конформных испытуемых в этих экспериментах нельзя автоматически обвинять в иррациональности. Но, как и следовало ожидать, дьявол кроется в деталях результатов. Согласно метаанализу более сотни повторений эксперимента, проведенному Смитом и Бондом:2

Конформность резко возрастает с увеличением числа подставных участников до 3 человек, но не растет дальше при их количестве от 10 до 15. Если бы люди проявляли конформность рационально, то мнение 15 других участников должно было бы служить существенно более сильным свидетельством, чем мнение 3.

Добавление всего одного несогласного — то есть еще одного человека, который дает правильный ответ (или даже неверный, но отличающийся от неверного ответа группы) — снижает уровень конформности очень резко, до 5–10% испытуемых. Если применить некую интуитивную версию согласия Аумана и подумать, что когда 1 человек расходится во мнениях с 3 другими, эти трое, скорее всего, правы, то в большинстве случаев вы должны с тем же успехом ожидать, что 2 человека будут не согласны с 6 другими. (Это не всегда так, но верно ceteris paribus — при прочих равных условиях.) С другой стороны, если люди испытывают эмоциональное напряжение из-за боязни оказаться белой вороной, то легко понять, как наличие еще одного человека, который согласен с вами (или хотя бы просто не согласен с группой), сильно уменьшает это напряжение.

Неудивительно, что испытуемые в условии с одним несогласным не думали, что на их нонконформизм как-то повлиял этот несогласный или что он сделал его возможным. Подобно 90% водителей, считающих, что водят машину лучше среднего и входят в верхние 50%, некоторые из них могут быть правы, но далеко не все. Люди не осознают причин своей конформности или несогласия, что заставляет усомниться в попытках трактовать такое поведение как проявление рациональности. Например, если выдвинуть гипотезу, согласно которой люди из социально-рациональных соображений предпочитают лгать, чтобы не выделяться, то оказывается, что (по крайней мере некоторые) испытуемые в условии с одним несогласным заранее не просчитывают ту «осознанную стратегию», к которой они бы прибегли при столкновении с единогласным противостоянием.

Когда единственный несогласный внезапно переключался на согласие с мнением группы, показатели конформности у испытуемых возвращались к тем же высоким значениям, что и в условиях отсутствия несогласных. Быть первым несогласным — ценная (и дорого обходящаяся!) общественная услуга, но нужно продолжать в том же духе.

И в рамках отдельных исследований, и в целом по всем экспериментам прослеживается устойчивая закономерность: чисто женские группы (испытуемая-женщина среди подставных участниц) проявляют конформность значительно чаще, чем чисто мужские. Около половины женщин демонстрировали конформность более чем в половине случаев, тогда как среди мужчин эта доля составляла лишь треть. Если утверждать, что среднестатистический испытуемый рационален, то женщины, по всей видимости, слишком уступчивы, а мужчины — слишком неуступчивы, так что ни одна из групп на самом деле не рациональна...

Манипуляции с делением на «своих» и «чужих» (например, когда испытуемый с инвалидностью находится среди других людей с инвалидностью) аналогично показывают, что уровень конформности значительно выше среди членов ингруппы.

Конформность выражена слабее в случае с очевидными диаграммами — вроде той, что приведена в начале этого эссе, — по сравнению с диаграммами, где ошибки