Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

«Итоговая строка» / «Двигатели познания» — причинно-следственные связи, благодаря которым работает Разум.

«Таинственные ответы на таинственные вопросы» — и вся сопутствующая цепочка, вроде требования, чтобы убеждения платили за аренду, и заглушек для любопытства — отлично иллюстрируются историческими примерами витализма и флогистона.

Несуществование онтологически фундаментальных ментальных сущностей — примените ошибку проекции ума к вероятности, перейдите к редукционизму против холизма, а затем к мозгу и когнитивным наукам.

Многочисленные составляющие искусства переживания кризиса веры — хотя вам лучше найти другое название для этой сложнейшей техники высшего уровня, которая заключается в том, чтобы действительно менять свои убеждения на основе свидетельств.

Эпистемология Тёмной стороны — преподавать это без упоминания религии было бы трудно, но в качестве примера из реального мира вы могли бы показать видеозапись допроса какого-нибудь торговца шарлатанским снадобьем.

Теория веселья — преподавать как литературоведческую теорию утопической фантастики, без прямого применения к теодицее.

«Радость в просто реальном», натуралистическая метаэтика и так далее, и так далее, и тому подобное.

Но давайте посмотрим на это с другой стороны —

Предположим, перед нами учёный, который всё ещё религиозен — будь то полноценная приверженность священным текстам или же на уровне небрежного одобрения туманной «духовности».

Мы понимаем, что этот человек не применяет никакого технического, явного понимания того...

...что именно является свидетельством и почему;

...бритвы Оккама;

...того, как оба этих правила следуют из закономерной и причинно-обусловленной работы разума как механизма построения карт и не отключаются, когда речь заходит о зубных феях;

...того, как отличить настоящий ответ от заглушки для любопытства;

...того, как самостоятельно переосмысливать вещи, а не просто повторять услышанное;

...определённых общих тенденций в развитии науки за последние три тысячи лет;

...сложного искусства действительно менять свои убеждения под воздействием новых свидетельств и отказываться от прежних убеждений;

...эпистемологии 101;

...честности перед собой 201;

...и так далее, и так далее, и тому подобного.

Если вдуматься, всё это довольно базовые темы для изучения. Краткое введение во все эти темы (ну, за исключением натуралистической метаэтики) потянуло бы... на четырёхкредитный курс бакалавриата без предварительных требований?

Но ведь есть нобелевские лауреаты, которые этот курс не проходили! Ричард Смолли, если вам нужна лёгкая мишень, или Роберт Ауманн, если вам нужен пугающий пример.

И они не могут быть единичными исключениями. Если бы все их коллеги по цеху прошли этот курс, то Смолли или Ауманна либо поправили бы (коллеги дружески отвели бы их в сторонку и объяснили азы), либо относились бы к ним с такой жалостью и беспокойством, что те вряд ли получили бы Нобелевскую премию. Могли бы вы — рассуждая реалистично, безотносительно справедливости — получить Нобелевскую премию, отстаивая существование Санта-Клауса?

Вот о чём нам говорит эта дохлая канарейка — религия: общая ватерлиния здравомыслия сейчас невероятно, абсурдно низка. Даже в самых высоких научных кругах.

Если мы выбросим эту дохлую, гниющую канарейку, в шахте, возможно, станет пахнуть чуть лучше, но ватерлиния здравомыслия от этого вряд ли сильно поднимется.

И это не критика движения неоатеизма. Вред, причиняемый религией, — это явная и непосредственная угроза, вернее, непрекращающееся бедствие, происходящее прямо сейчас. Борьба с прямыми вредоносными последствиями религии имеет приоритет над использованием её в качестве канарейки или экспериментального индикатора. Но даже если Докинз, Деннет, Харрис и Хитченс каким-то образом одержат полную и абсолютную победу в каждом уголке человеческого общества, настоящая работа рационалистов только начнётся.

*

313. Ощущение, что возможно большее.

Чтобы учить людей теме, которую вы назвали «рациональностью», полезно, чтобы они этой «рациональностью» интересовались. (Есть и менее прямые способы научить людей обретать карту, отражающую территорию, или оптимизировать реальность в соответствии с их ценностями; но явный метод и есть тот путь, который я обычно выбираю.)

И когда люди объясняют, почему они не заинтересованы в рациональности, один из самых частых доводов обычно звучит примерно так: «О, я знал парочку рациональных людей, и они не казались счастливее».

О ком они думают? Вероятно, об объективисте или ком-то в этом роде. Может быть, о каком-то знакомом, обычном ученом. Или об обычном атеисте.

Это действительно не так уж много рациональности, как я уже говорил ранее.

Даже если ограничиться людьми, способными вывести теорему Байеса — а это отсеет, сколько, процентов 98 вышеназванной публики? — это всё равно не бог весть какая рациональность. В конце концов, это довольно базовая теорема.

С самого начала у меня было ощущение, что должна существовать некая когнитивная дисциплина, некое искусство мышления, изучение которого делало бы учеников заметно более компетентными, более грозными — эквивалент получения нового уровня крутизны.

Но когда я оглядываюсь вокруг в реальном мире, я этого не вижу. Иногда я замечаю намек, эхо того, что, по моему мнению, должно быть возможно, когда читаю работы таких людей, как Робин Доуз, Дэниел Гилберт, Джон Туби и Леда Космидес. Несколько очень редких и очень заслуженных исследователей в области психологических наук, которых рациональность заботит очень сильно — подозреваю, до такой степени, что их коллегам становится неловко, ведь так сильно переживать из-за этого как-то не круто. Я вижу, что они нащупали ритм, единство, которое начинает пронизывать их аргументы —

И все же даже это... на самом деле тоже не бог весть какая рациональность.

Даже среди тех немногих, кто впечатляет меня намеком на зарождающуюся мощь, — я не думаю, что их мастерство в рациональности может сравниться, скажем, с мастерством Джона Конвея в математике. Базовые знания, на которые мы опирались, строя свое понимание — если выделить только те части, которые мы использовали, а не всё то, что нам пришлось изучить, чтобы их найти, — вероятно, не сопоставимы с тем, что профессиональный инженер-ядерщик знает о ядерной инженерии. Возможно, они даже не сопоставимы с тем, что инженер-строитель знает о мостах. Мы тренируем свои навыки — да, тренируем, теми кустарными способами, которым научились сами; но эта практика, вероятно, не идет ни в какое сравнение с режимом тренировок олимпийского бегуна или даже обычного профессионального теннисиста.

И корень этой проблемы, как я подозреваю, кроется в том, что мы так и не собрались вместе и не систематизировали наши навыки. Нам приходилось создавать всё это самостоятельно, на ходу, а возможностям одного ума есть предел, даже если ему удается опираться на труды в смежных областях.

Главным препятствием на пути к тому, чтобы сделать это