Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Разумеется, количество статей в словаре важнее, чем порванная обложка, — по крайней мере, если вы планируете им пользоваться. Но если вам предлагают только один словарь, в котором 20 000 статей, число 20 000 мало о чем говорит. Это мало? Или много? Кто знает? Оно не поддается оценке. С другой стороны, порванная обложка бросается в глаза. Она имеет определенную аффективную валентность — а именно негативную.

Однако, когда они представлены бок о бок, количество статей переходит из не поддающегося оценке в поддающееся оценке, поскольку появляются две сопоставимые величины для сравнения. И как только количество статей становится оцениваемым, этот аспект полностью затмевает значимость порванной обложки.

Из работы Словича и др.: Что бы вы предпочли?3

Шанс 29/36 выиграть 2 доллара.

Шанс 7/36 выиграть 9 долларов.

Хотя средние цены (эквивалентные стоимости), назначенные этим двум вариантам, составили 1,25 и 2,11 доллара соответственно, их средние оценки привлекательности оказались равны 13,2 и 7,5. И цены, и оценки привлекательности выявлялись в условиях, когда испытуемым сообщали, что из оцененных лотерей случайным образом выберут две, и они разыграют ту, которая получила более высокую цену или более высокую оценку привлекательности. (У испытуемых был стимул оценивать как более привлекательные или назначать более высокую цену именно тем лотереям, которые они действительно предпочли бы разыграть.)

Лотерея, сулившая больше денег, казалась менее привлекательной — классический пример инверсии предпочтений. Исследователи предположили, что долларовые суммы лучше согласуются с задачей оценки стоимости, тогда как вероятность выигрыша лучше согласуется с привлекательностью. И тогда исследователи подумали: почему бы не попробовать сделать выигрыш более эмоционально значимым, более аффективно оцениваемым и, следовательно, более привлекательным?

И как же они это сделали? Добавив к лотерее крошечный проигрыш. В старой лотерее был шанс 7/36 выиграть 9 долларов. В новой лотерее оставался шанс 7/36 выиграть 9 долларов, но добавлялся шанс 29/36 проиграть 5 центов. В старой лотерее вы неявно оцениваете привлекательность 9 долларов. Новая лотерея заставляет вас оценивать привлекательность выигрыша в 9 долларов против проигрыша в 5 центов.

«Результаты, — заявили Слович и соавторы, — превзошли наши ожидания». В новом эксперименте простая лотерея с шансом 7/36 выиграть 9 долларов получила среднюю оценку привлекательности 9,4, тогда как сложная лотерея, включавшая шанс 29/36 проиграть 5 центов, получила среднюю оценку привлекательности 14,9.

Последующий эксперимент проверял, предпочтут ли испытуемые старую лотерею гарантированному выигрышу в 2 доллара. Только 33% студентов предпочли старую лотерею. В другой группе, которой предложили выбрать между гарантированными 2 долларами и новой лотереей (с добавленной вероятностью проигрыша 5 центов), целых 60,8% предпочли лотерею. В конце концов, 9 долларов — не слишком привлекательная сумма денег, но 9 долларов к 5 центам — это поразительно привлекательное соотношение выигрыша и проигрыша.

Можно сделать лотерею более привлекательной, добавив чистый проигрыш! Разве психология — это не весело? Вот почему никто из тех, кто по-настоящему ценит удивительную сложность человеческого разума, не хочет создавать искусственный интеллект по образу и подобию человека.

Конечно, это работает только в том случае, если испытуемые не видят обе лотереи бок о бок.

Подобным образом, какое из этих двух мороженых, по-вашему, предпочли испытуемые в исследовании Си 1998 года?

Из статьи Си, © 1998 John Wiley & Sons, Ltd.

Естественно, ответ зависит от того, видели ли испытуемые только одно мороженое или оба бок о бок. Испытуемые, видевшие только одно мороженое, были готовы заплатить 1,66 доллара продавцу H и 2,26 доллара продавцу L. Испытуемые, которые видели оба мороженых, были готовы заплатить 1,85 доллара продавцу H и 1,56 доллара продавцу L.

На какие мысли это наводит в преддверии праздничных покупок? Если вы потратите 400 долларов на 16-гигабайтный iPod Touch, ваш получатель увидит самый дорогой MP3-плеер. Если вы потратите 400 долларов на Nintendo Wii, ваш получатель увидит самую дешевую игровую приставку. Что из этого выгоднее за те же деньги? Ах, но этот вопрос имеет смысл только тогда, когда вы видите оба варианта рядом. Вы будете сравнивать их в магазине, но получатель увидит только то, что ему подарили.

Если у вас есть фиксированная сумма, которую вы готовы потратить, — и ваша цель состоит в том, чтобы продемонстрировать дружбу, а не в том, чтобы помочь получателю на самом деле, — вам лучше намеренно не искать практической выгоды. Решите, сколько денег вы хотите потратить, чтобы произвести впечатление на получателя, а затем найдите самую бесполезную вещь, которая стоит этих денег. Чем дешевле класс вещей, тем дороже будет казаться конкретный предмет при фиксированной стоимости подарка. Что запомнится лучше: рубашка за 25 долларов или свеча за 25 долларов?

Это придает совершенно новый смысл японскому обычаю покупать дыни за 50 долларов, не так ли? Вы смотрите на это, качаете головой и говорите: «Да что такое с этими японцами?» И тем не менее они ухитряются казаться невероятно щедрыми, даже расточительными, тратя при этом всего 50 долларов. Вы могли бы потратить 200 долларов на изысканный ужин и не показаться столь же богатым, как при покупке дыни за 50 долларов. Если бы только существовал обычай дарить зубочистки за 25 долларов или пылинки за 10; они могли бы отделаться еще меньшими тратами.

P. S. Если вы действительно воспользуетесь этим трюком, я хочу знать, что вы купили.

*

1. Кристофер К. Си, «Меньше — лучше: когда менее ценные варианты ценятся выше, чем более ценные», Behavioral Decision Making 11 (2 1998): 107–121.

2. Кристофер К. Си, «Гипотеза оцениваемости: объяснение инверсии предпочтений при совместной и раздельной оценке альтернатив», Organizational Behavior and Human Decision Processes 67 (3 1996): 247–257, doi:10.1006/obhd.1996.0077.

3. Слович и др., «Рациональные субъекты или рациональные глупцы».

102. Неограниченные шкалы, гигантские компенсации присяжных и футуризм.

«Психофизика», вопреки названию, — вполне респектабельная область науки, связывающая физические воздействия с сенсорными ощущениями. Если вы закачиваете акустическую энергию в воздух — проще говоря, шумите — то насколько громким этот шум покажется человеку в зависимости от величины этой энергии? Насколько больше акустической энергии нужно закачать в воздух, чтобы шум показался слушателю вдвое громче? Вовсе не вдвое; скорее, раз в восемь.

Измерить акустическую энергию или фотоны не составляет труда. Но когда вы хотите выяснить, насколько громким воспринимается акустический стимул или