Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

свои убеждения. Отсюда и популярность доводов в пользу Благородной Лжи; они служат защитой уже имеющегося убеждения — вы не встретите благородных лжецов, высчитывающих новую оптимальную Благородную Ложь; они просто цепляются за то враньё, с которого начали. Лучше поскорее остановить этот поиск!

Чтобы действовать более эффективно, спросите себя напрямую: «Если бы я увидел, что у моего нынешнего курса есть лучшая альтернатива, обрадовался бы я в глубине души или ощутил бы секундную вспышку неохоты, прежде чем отказаться от него?» Если ваши ответы — «нет» и «да», то берегитесь: скорее всего, вы даже не пытались искать Третью Альтернативу.

Отсюда следует еще один отличный вопрос, который стоит задать себе напрямую: «Провел ли я пять минут с закрытыми глазами, устраивая мозговой штурм в поисках безумных и творческих вариантов, пытаясь придумать лучшую альтернативу?» Это должны быть именно пять минут по часам, потому что иначе вы просто моргнёте — закроете глаза и тут же откроете — и скажете: «Да, конечно, я искал альтернативы, но их просто не оказалось». Подобное «моргание» — отличная чёрная дыра, в которую очень удобно сбрасывать свои обязанности. Настоятельно рекомендую использовать настоящие физические часы.

И эти безумные и творческие варианты — постарались ли вы не придумать среди них ни одного хорошего? Не прилагал ли какой-то потаённый уголок вашего разума тайные усилия к тому, чтобы каждый рассмотренный вариант оказывался заведомо плохим?

Поразительно, как много благородных лжецов и им подобных с готовностью идут на этические нарушения — со всеми подобающими сетованиями на муки совести, — не потратив при этом даже пяти минут по часам на поиски альтернативы. Бывают мысленные поиски, провала которых мы втайне желаем; и когда перспектива успеха сулит дискомфорт, люди хватаются за самый первый предлог, чтобы опустить руки.

*

48. Лотереи: пустая трата надежд.

Классическая критика лотерей заключается в том, что в них играют как раз те люди, которые меньше всего могут позволить себе проигрыш; что лотерея — это бездонная бочка для денег, вытягивающая средства у тех, кто сильнее всего в них нуждается. Некоторые защитники лотерей и даже отдельные комментаторы на Overcoming Bias пытались оправдать покупку лотерейных билетов как рациональную покупку фантазии — плату в один доллар за целый день приятного предвкушения, когда ты воображаешь себя миллионером.

Но вдумайтесь, что именно это означает. Это означает, что вы занимаете свой ценный мозг фантазией, реальная вероятность которой практически равна нулю, — тончайшей ниточкой вероятности, для реализации которой вы сами ничего не можете сделать. Ваше будущее решат лотерейные шары. Это фантазия о богатстве, которое приходит без усилий — без добросовестности, учебы, харизмы или даже терпения.

Это делает лотерею еще одной бездонной бочкой — на этот раз для эмоциональной энергии. Она побуждает людей инвестировать свои мечты, свои надежды на лучшее будущее в бесконечно малую вероятность. Если бы не лотерея, они, возможно, мечтали бы о поступлении в колледж, открытии собственного дела или повышении на работе — о вещах, которые они действительно могли бы сделать, о надеждах, которые заставляли бы их стремиться стать сильнее. Мечтающий мозг мог бы на двадцатой визуализации этой приятной фантазии заметить способ реально воплотить её в жизнь. Разве не для этого нужны мечты и мозги? Но как может эта пресная, ограниченная реальностью пища конкурировать с искусственно подслащенной перспективой мгновенного богатства — полученного не в результате доведения дотком-стартапа до IPO, а просто во вторник?

Серьезно, почему мы не можем просто сказать, что покупка лотерейных билетов — это глупо? Люди бывают глупы время от времени, и эта гипотеза не должна казаться такой уж удивительной.

Неудивительно, что человеческий мозг не производит 64-битные вычисления с плавающей запятой и не способен уменьшить эмоциональную силу приятного предвкушения в 100 000 000 раз, не потеряв при этом ход рассуждений полностью. Неудивительно и то, что многие люди не понимают, что численный расчет ожидаемой полезности должен отменять или заменять их неточные финансовые инстинкты; вместо этого они относятся к расчету лишь как к еще одному доводу, который нужно сопоставить с приятными предвкушениями — эмоционально слабому доводу, состоящему из простых закорючек на бумаге, а не из видений сказочного богатства.

Похоже, этого вполне достаточно, чтобы объяснить популярность лотерей. Почему же столь многие полемисты считают своим долгом защищать эту классическую форму саморазрушения?

Процесс преодоления когнитивных искажений требует: (1) сначала заметить искажение, (2) детально его проанализировать, (3) решить, что это искажение вредно, (4) придумать обходной путь и затем (5) применить его на практике. К сожалению, слишком многие люди справляются с шагами 1 и 2, а затем вязнут на шаге 3, хотя тот по праву должен быть самым простым из пяти. Когнитивные искажения — это кислые лимоны, а не сладкий лимонад, и нам не стоит пытаться делать из них лимонад — нужно просто сжечь эти лимоны дотла.

*

49. Новая улучшенная лотерея.

Люди все еще утверждают, что лотерея — это не напрасная растрата надежд, а услуга, позволяющая купить фантазию: «грезить о том, как станешь миллионером, тратя на это куда меньше денег, чем на грезы о голливудских звездах в кино». Один комментатор написал: «Есть огромная разница между нулевой вероятностью разбогатеть и вероятностью, равной эпсилон. Покупка билета позволяет вашей мечте о богатстве преодолеть эту пропасть».

Собственно, одна из мыслей, которую я пытался выразить, состоит в том, что разница между нулевой вероятностью разбогатеть и вероятностью, равной эпсилон, — порядка самого эпсилон. Если сомневаетесь, пусть эпсилон будет равен единице, деленной на гуголплекс.

Так или иначе, если мы притворимся, будто лотерея продает надежду величиной в эпсилон, это наводит на мысль о концепции Новой Улучшенной Лотереи. В среднем раз в пять лет, в случайное время — определяемое, скажем, распадом слаборадиоактивного элемента — Новая Улучшенная Лотерея производит выплату. Вы платите всего один раз, один доллар, и получаете не несколько дней эпсилон-вероятности разбогатеть, а несколько лет эпсилона. И это еще не все: богатство может обрушиться на вас когда угодно! В любую минуту может зазвонить телефон и сообщить, что вы, да-да, именно вы — миллионер!

Подумайте, насколько это лучше обычного лотерейного розыгрыша, который проводится лишь в определенное время, несколько раз в неделю. Допустим, заходит босс и требует переделать предложение, провести инвентаризацию или сделать еще какую-нибудь