Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Согласно господствующим представлениям о Науке, это высокомерие — вы должны принимать вердикт эксперимента, а не цепляться за свои личные идеи.

Но, как я заключил в эссе «Высокомерие Эйнштейна», с байесовской точки зрения Эйнштейн предстает далеко не в столь дурном свете. С байесовской точки зрения, чтобы вообще предложить Общую теорию относительности, чтобы просто задуматься о том, что оказалось правильным ответом, у Эйнштейна должно было быть достаточно свидетельств, чтобы выделить верный ответ в пространстве теорий. Потребовалось бы лишь немного больше свидетельств, чтобы оправдать (в байесовском смысле) почти полную уверенность в теории. И маловероятно, что у Эйнштейна было ровно столько свидетельств, сколько требовалось лишь для того, чтобы просто обратить его внимание на эту гипотезу.

Любое обвинение в высокомерии должно было бы сводиться к вопросу: «Но, Эйнштейн, откуда вы знали, что ваши рассуждения верны?» — на что я могу сказать лишь одно: не критикуйте людей, когда они оказываются правы! Подождите случая, когда они ошибутся! Иначе вы упускаете шанс заметить, что кто-то мыслит умнее вас, ведь вы критикуете их всякий раз, когда они отступают от предпочитаемого вами ритуала познания.

Или рассмотрим знаменитый диалог между Эйнштейном и Нильсом Бором о квантовой теории — в то время, когда существовавшая тогда однимировая квантовая теория казалась чрезвычайно хорошо подтвержденной экспериментально; в то время, когда, по стандартам Науки, господствовавшая (безумная) квантовая теория попросту победила.

ЭЙНШТЕЙН: «Бог не играет в кости со Вселенной».

БОР: «Эйнштейн, не указывай Богу, что делать».

Нельзя не восхищаться тем, кто может вступить в спор с Богом и победить.

Если вы снимете свои байесовские очки и посмотрите на Эйнштейна с точки зрения того, чем он на самом деле занимался целыми днями, то этот парень просто сидел, изучал математику и думал о том, как бы он спроектировал Вселенную, вместо того чтобы бегать повсюду и разглядывать мир ради сбора новых данных. То, что сделал Эйнштейн — и сделал успешно, — это именно то возвышенное свершение чистого разума, которое Аристотель думал, что может совершить, но не мог. Заметьте, не с точки зрения теории вероятностей, а с позиции того, чем они были заняты целыми днями.

Наука не доверяет ученым подобные вещи, именно поэтому Общая теория относительности не была благословлена как общее знание человечества до тех пор, пока на её основе не было сделано и подтверждено новое экспериментальное предсказание — связанное с отклонением лучей света во время солнечного затмения. (Позже выяснилось, что конкретно то измерение было недостаточно точным для надежного подтверждения, и Общей теории относительности тогда, по сути, просто повезло.)

Однако то, что Наука не доверяет ученым в чем-то, еще не означает, что это невозможно.

Но здесь стоит предостеречь: учебники истории порой сохраняют имена ученых, мысливших великими возвышенными категориями, вовсе не потому, что возвышенное мышление проще или надежнее. Дело в предвзятости приоритета: некий ученый, который успешно пришел к умозаключениям на основе минимального количества экспериментальных данных, добрался до истины первым. Это не может быть делом чистой случайности: пространство теорий слишком велико, а Эйнштейн победил несколько раз подряд. Но из всех ученых, которые пытались разгадать головоломку или в конце концов преуспели бы при достаточном количестве данных, история доносит до нас имена лишь тех, кто успешно добрался туда первым. Помните об этом, когда пытаетесь извлечь уроки о том, как рассуждать осмотрительно.

В повседневной жизни вам важна каждая крупица свидетельств, которую вы можете получить. Не полагайтесь на свою способность успешно мыслить возвышенными категориями, если только эксперименты не обходятся настолько дорого или не представляют такой опасности, что у вас просто нет иного выбора.

Но иногда эксперименты обходятся дорого, а иногда нам хочется оказаться у цели первыми... так что вы можете попробовать потренироваться рассуждать на основе скудных данных, желательно в тех случаях, когда вы позже сможете узнать, правы вы были или ошибались. Попытки обыграть рынки предсказаний с низкой капитализацией могли бы стать хорошей тренировкой в этом деле — хотя это всего лишь предположение.

По крайней мере, на сегодняшний день рассуждения на основе скудных данных — это то, чему современная наука вообще не способна надежно обучить современных ученых. Что, возможно, как-то связано с тем, что она — ой, даже не знаю — даже не пытается?

Впрочем, беру свои слова назад. Самое здравое мышление, которое я когда-либо встречал в какой-либо научной области, исходит из эволюционной психологии — возможно, потому, что они понимают самообман, но также, вероятно, потому, что им часто (1) приходится рассуждать на основе скудных данных и (2) они позже действительно узнают, были ли они правы или ошибались. Я рекомендую всем начинающим рационалистам изучать эволюционную психологию просто для того, чтобы краем глаза увидеть, как выглядят тщательные рассуждения. Обратите особое внимание на работу Туби и Космидес «Психологические основы культуры».1

Что касается вероятности того, что только Эйнштейн мог совершить то, что совершил Эйнштейн... что для этого требовались сверхспособности, недоступные простым смертным... здесь мы сталкиваемся с некоторыми когнитивными искажениями, для анализа которых потребовалось бы отдельное эссе. Скажу так: возможно, только гений мог проделать ту историческую работу, которую проделал Эйнштейн. Но потенциальные гении с точки зрения чистого интеллекта, вероятно, встречаются гораздо чаще, чем исторические сверхдостигаторы. Назову случайное число: сомневаюсь, что для того, чтобы стать потенциальным гением мирового уровня, требуется g-фактор выше, чем один на миллион, а это означает, что сегодня по миру ходит как минимум шесть тысяч потенциальных Эйнштейнов. А что касается всех остальных, то я не вижу причин, почему бы им не стремиться эффективно использовать те свидетельства, которыми они располагают.

Но мой главный вывод состоит в том, что рубеж, на котором отдельный ученый рационально знает нечто, еще не подтвержденное Наукой, — это не всегда безобидный, опирающийся сугубо на данные поиск сильной закономерности в горе экспериментов. Иногда ученый приходит к этому, предаваясь тем великим возвышенным размышлениям, вести которые Наука вам не доверяет.

Я не скажу: «Не пытайтесь повторить это дома». Я скажу: «Не думайте, что это просто». Мы здесь обсуждаем не победу обывательских мнений над профессиональными учеными. Мы обсуждаем редкие исторические победы одного типа профессиональных усилий над другим. Никогда не забывайте обо всех тех знаменитых исторических случаях, когда попытки кабинетных рассуждений терпели крах.

*

1. Туби и Космидес, «Психологические основы культуры».

253. То самое инопланетное послание.