Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Большинство людей скажет, что малиновка — более типичная птица, а офисный стул — более типичный стул. Когнитивные психологи, экспериментально изучающие подобные вещи, объединяют их под названиями «эффект типичности» или «эффект прототипа».1 Например, если попросить испытуемых нажимать кнопку «верно» или «неверно» в ответ на такие утверждения, как «Малиновка — это птица» или «Пингвин — это птица», время реакции для более центральных примеров будет меньше.2 Показатели типичности, полученные с помощью различных методов исследования, хорошо коррелируют друг с другом — время реакции лишь один из примеров; также можно попросить людей напрямую оценить по шкале от 1 до 10, насколько конкретный пример (скажем, определенная малиновка) соответствует категории (например, «птица»).

Итак, у нас есть ментальная мера типичности — которая, возможно, функционирует как эвристика, — но существует ли соответствующее когнитивное искажение, с помощью которого мы могли бы зафиксировать этот эффект?

Ну а какое из этих утверждений кажется вам более естественным: «98 — это приблизительно 100» или «100 — это приблизительно 98»? Если вы похожи на большинство людей, то первое утверждение покажется вам более логичным.3 По схожим причинам люди, которых просили оценить, насколько Мексика похожа на Соединенные Штаты, давали стабильно более высокие оценки сходства, чем те, кого просили оценить, насколько Соединенные Штаты похожи на Мексику.4

И если это всё ещё кажется безобидным, исследование Рипса показало, что люди с большей вероятностью ожидали, что болезнь распространится на острове от малиновок к уткам, чем от уток к малиновкам.5 Конечно, в этом нет логического противоречия, но в прагматическом смысле любое различие, отделяющее утку от малиновки и делающее передачу болезни от утки к малиновке менее вероятной, также должно быть различием между малиновкой и уткой, делающим менее вероятной передачу болезни от малиновки к утке.

Да, можно придумать рационализации вроде: «Ну, по соседству с малиновками может жить больше других видов, что изначально повысит шансы на распространение болезни и т. д.», но будьте осторожны и не пытайтесь слишком усердно рационализировать оценки вероятности, данные испытуемыми, которые даже не подозревали, что проводится какое-то сравнение. И не забывайте, что Мексика больше похожа на США, чем США на Мексику, и что 98 ближе к 100, чем 100 к 98. Более простое объяснение заключается в том, что люди используют (доказанную) эвристику сходства в качестве замены для оценки вероятности распространения болезни, и эта эвристика (доказуемо) асимметрична.

Канзас расположен необычайно близко к центру Соединенных Штатов, а Аляска — необычайно далеко от него; так что Канзас, вероятно, ближе к большинству мест в США, а Аляска, вероятно, дальше. Однако из этого не следует, что Канзас ближе к Аляске, чем Аляска к Канзасу. Но люди, похоже, рассуждают (выражаясь метафорически) так, будто близость — это неотъемлемое свойство Канзаса, а удаленность — неотъемлемое свойство Аляски; так что Канзас всё равно близок даже к Аляске, а Аляска всё равно далека даже от Канзаса.

И мы снова видим, что аристотелевское представление о категориях — логических классах, принадлежность к которым определяется набором свойств, каждое из которых строго необходимо, а все вместе они строго достаточны, — плохо моделирует когнитивную психологию человека. (Взгляды науки несколько изменились за последние 2350 лет? Кто бы мог подумать!) Мы даже не рассуждаем так, будто принадлежность к множеству — это свойство бинарное («истина» или «ложь»): утверждения о принадлежности к множеству могут быть в большей или меньшей степени истинными. (Примечание: это не то же самое, что быть более или менее вероятным.)

Ещё одна причина не притворяться, будто вы или кто-то другой на самом деле собираетесь трактовать слова как аристотелевские логические классы.

*

1. Eleanor Rosch, “Principles of Categorization,” in Cognition and Categorization, ed. Eleanor Rosch and Barbara B. Lloyd (Hillsdale, NJ: Lawrence Erlbaum, 1978).

2. George Lakoff, Women, Fire, and Dangerous Things: What Categories Reveal about the Mind (Chicago: Chicago University Press, 1987).

3. Jerrold Sadock, “Truth and Approximations,” Papers from the Third Annual Meeting of the Berkeley Linguistics Society (1977): 430–439.

4. Amos Tversky and Itamar Gati, “Studies of Similarity,” in Cognition and Categorization, ed. Eleanor Rosch and Barbara Lloyd (Hillsdale, NJ: Lawrence Erlbaum Associates, Inc., 1978), 79–98.

5. Lance J. Rips, “Inductive Judgments about Natural Categories,” Journal of Verbal Learning and Verbal Behavior 14 (1975): 665–681.

159. Кластерная структура пространства вещей.

Понятие «конфигурационного пространства» — это способ перевода описаний объектов в положения объектов. Может показаться, что синий «ближе» к сине-зелёному, чем к красному, но насколько ближе? На этот вопрос трудно ответить, просто глядя на цвета. Но помогает знание того, что (пропорциональные) цветовые координаты в RGB равны 0:0:5, 0:3:2 и 5:0:0. Всё стало бы ещё понятнее, если бы их нанесли на трёхмерный график.

Точно так же вы можете видеть малиновку как малиновку — коричневый хвост, красная грудка, стандартная форма малиновки, максимальная скорость полета без груза, типичная для вида ДНК и индивидуальные аллели. Или же вы можете видеть малиновку как одиночную точку в конфигурационном пространстве, измерения которого описывают всё, что мы знали или могли бы знать о малиновке.

Малиновка больше вируса и меньше авианосца — это может быть измерением «объёма». Точно так же малиновка весит больше атома водорода и меньше галактики — это может быть измерением «массы». У разных малиновок «объём» и «масса» будут сильно коррелировать, поэтому точки-малиновки выстроятся в этих двух измерениях в довольно линейную цепочку, — но корреляция не будет идеальной, так что нам действительно нужны два отдельных измерения.

В этом и заключается преимущество взгляда на малиновок как на точки в пространстве: вы бы не смогли так легко увидеть эту линейную цепочку, если бы просто представляли малиновок как милых маленьких существ, машущих крылышками.

ДНК малиновки — это высокоразмерная переменная, но вы всё равно можете думать о ней как о части положения малиновки в пространстве вещей — миллионы четвертичных координат, по одной координате на каждое основание ДНК, — или, возможно, представить это как-то более утончённо. Форму малиновки и её цвет (отражательную способность поверхности) вы точно так же можете мыслить как часть положения малиновки в пространстве вещей, пусть даже они и не являются отдельными измерениями.

Точно так же, как координата 0:0:5 содержит ту же информацию, что и реальный HTML-цвет «синий», мы на самом деле не должны терять информацию, когда рассматриваем