Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Изначальная ложь — это лишь начало проблемы. Дальше идут все те пагубные привычки мышления, которые выработались для ее защиты. Религия — это отравленная чаша, из которой нам лучше даже не делать глотка. Духовность — это та же чаша после того, как из нее извлекли исходную крупицу яда, и в ней осталась лишь растворившаяся его часть — чуть менее смертоносная напрямую, но все же не идущая вам на пользу.

Когда ложь защищали веками, а истинное происхождение унаследованных привычек скрылось в тумане, оставив после себя пласт за пластом скрытых недугов, тогда мудрые, я полагаю, предпочтут начать все с чистого листа, вместо того чтобы пытаться выборочно отбросить первоначальную ложь, сохранив при этом защищавшие ее привычки мышления. Просто признайте, что ошибались, полностью откажитесь от этой ошибки, перестаньте вообще ее защищать, перестаньте пытаться доказать, будто вы были правы хотя бы отчасти, перестаньте спасать лицо — просто скажите «Ой!», выбросьте всё целиком и начните заново.

Эта способность — действительно, по-настоящему, без всякой защиты признать, что вы были совершенно неправы, — вот почему религиозный опыт никогда не станет похож на научный. Ни одна религия не способна вобрать в себя эту способность, не утратив себя полностью и не став просто человечностью...

. . . просто смотреть вверх, на далекие звезды. В них верится без натяжки, без постоянной отвлекающей борьбы за то, чтобы отогнать осознание опровергающих свидетельств. Действительно существующее в мире переживание, соединенное со своим референтом, — прочная часть этой разворачивающейся истории. Познаваемые без угрозы, дающие настоящую пищу для любопытства. Разделяемые вместе со множеством других наблюдателей, без нужды укрываться в приватности. Сотканные из той же материи, что и вы сами, и всё остальное. Предельно святая и прекрасная, священная обыденность.

*

1. Адам Франк, The Constant Fire: Beyond the Science vs. Religion Debate (University of California Press, 2009).

212. Чтобы распространить науку, держите её в секрете. Иногда я задаюсь вопросом, а не правы ли были пифагорейцы.

Да, я уже писал о том, что «наука» по своей сути публична. Я писал, что «наука» отличается от просто рационального знания принципиальной возможностью самостоятельно воспроизвести научные эксперименты, знать, не полагаясь на авторитеты. Я говорил, что «науку» следует определить как общедоступное знание человечества. Я даже предполагал, что будущие поколения будут рассматривать все статьи, не опубликованные в журналах открытого доступа, как ненаучные — ведь знание не может быть частью публичного достояния человечества, если за право прочесть его вы требуете деньги.

Но это лишь одно из видений будущего. В другом видении знание, которое мы сейчас зовем «наукой», `изымается` из общественного достояния: книги и журналы спрятаны и охраняются мистическими культами `гуру` в мантиях, требующими для доступа прохождения жутких ритуалов посвящения — и всё ради того, чтобы больше людей `действительно` стали его изучать.

Ведь прямо сейчас люди `могут` изучать науку, но они `этого не делают.`

В `социальной психологии` это называется «дефицитом». То, что кажется дефицитным, ценится выше. И этот эффект `особенно` силен в отношении информации: мы гораздо охотнее пытаемся получить сведения, которые считаем секретными, и ценим их гораздо больше, когда всё-таки получаем.

Мне кажется, в случае с наукой люди предполагают: если информация находится в свободном доступе, она вряд ли важна. Поэтому вместо этого люди вступают в секты, у которых хватает ума держать свои Великие Истины в секрете. Великая Истина на поверку может оказаться сущей белибердой, но она приносит больше удовлетворения, чем логичная наука, просто потому, что она `секретна.`

Наука — это великое «Похищенное письмо» наших дней, оставленное на самом видном месте и всеми проигнорированное.

Конечно, научная открытость на руку научной элите. Они-то уже `прошли` ритуалы посвящения. Но для остальной планеты свободный доступ скрывает науку во сто крат эффективнее, чем если бы её книги охранялись в тайных хранилищах, а для получения доступа приходилось бы ходить по раскаленным углям. (Что, безусловно, было бы грозным испытанием, ведь великие тайны теплоизоляции доступны лишь Физикам-Посвященным Третьего Уровня.)

Если бы научные знания были скрыты в древних хранилищах (а не в неудобных платных журналах), люди бы по крайней мере `пытались` проникнуть в эти хранилища. Они бы `отчаянно стремились` изучать науку. Особенно когда видели бы мощь, которой обладают Физики Восьмого Уровня, и слышали бы, что им `не положено знать` объяснение.

И если бы вы попытались основать культ вокруг, скажем, саентологии, то поначалу вы бы вызвали некоторый общественный интерес. Но люди очень быстро начали бы задавать неудобные вопросы: «Почему вы не продемонстрируете публично свои силы Восьмого Уровня, как это делают Физики?», «Почему ни один из Магистров Математики не желает вступать в ваш культ?», «Зачем мне следовать за вашим Основателем, если за пределами своей секты он не достиг даже Восьмого Уровня хоть в чём-то?», и «Почему я должен изучать `ваш` культ `в первую очередь`, когда Дантисты Рока умеют вытворять куда более впечатляющие вещи?»

Если взглянуть на это под таким углом, «побег» математики из пифагорейского культа начинает казаться крупной стратегической ошибкой человечества.

Знаю, что вы скажете: «Но ведь наука `действительно` окружена суровыми ритуалами посвящения! К тому же её `по самой её природе` трудно изучать! Почему `это` не считается?» Да потому, что публика `считает`, будто наука находится в свободном доступе. Если вам `разрешено` её изучать, значит, она недостаточно важна, `чтобы` её изучать.

Это проблема имиджа — люди ориентируются на отношение окружающих. `Кто угодно` может зайти в супермаркет и купить лампочку, и никто не смотрит на неё с благоговейным трепетом. Физика процесса вроде как не секретна (хотя `лично вы` её не знаете), а в газете есть объяснение из одного абзаца, звучащее смутно авторитетно и убедительно — по сути, никто не относится к лампочке как к священной тайне, а значит, не относитесь и вы.

Даже простейшие мелочи, совершенно неодушевлённые предметы вроде распятий, могут казаться волшебными, если все `смотрят` на них как на магию. Но поскольку вам теоретически `разрешено` узнать, как работает лампочка, без необходимости взбираться на гору в поисках далекого Монастыря Электриков, нет никакой нужды `на самом деле` утруждать себя её изучением.

Разумеется, поскольку наука действительно включает в себя как социальные, так и когнитивные ритуалы посвящения, сами учёные не испытывают полного разочарования в своей сфере. Проблема в том, что в современном мире изначально очень мало людей утруждают себя изучением