Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

мы смотрим на историю квантовой физики и говорим: «Прозрения, в которых они нуждались, были философскими», в действительности мы видим лишь то, что нужное им прозрение имело форму, которую ещё не преподают на стандартных академических занятиях и которую ещё не научились сводить к расчётам.

Когда-то представление о научном методе — обновлении убеждений на основе экспериментальных свидетельств — было философским понятием. Но отстаивали его вовсе не профессиональные философы. Именно реальная сила науки показала, что научная эпистемология — хорошая эпистемология, а вовсе не априорный консенсус философов.

Сегодня эта философия обновления убеждений начинает сводиться к расчётам — статистике, байесовской теории вероятностей.

Но в эпоху Галилея лишь туманные словесные аргументы призывали пытаться давать численные предсказания результатов экспериментов, вместо того чтобы сверяться с Библией или Аристотелем.

На переднем крае науки — а особенно на переднем крае научного хаоса и научной неразберихи — вы сталкиваетесь с проблемами мышления, которые не преподают в рамках академических курсов и которые ещё не сведены к расчётам. И это будет казаться областью философии; будет казаться, что вам нужно философски мыслить, чтобы разобраться в этой путанице. Но когда история оглядывается назад, боюсь, все лавры обычно достаются вовсе не профессиональному философу — потому что для философского осмысления требуется глубокое погружение в научную область. Даже если впоследствии всё это кажется познаваемым априори, и даже если какой-нибудь философ на самом деле постиг это априори — всё равно требуется глубокое погружение, чтобы увидеть это на практике, и экспериментальные результаты, чтобы показать миру, какой именно философ победил.

Полагаю, что, как и этика, философия действительно важна, но эффективно заниматься ею можно только изнутри науки. Попытки заниматься философией передовой науки как отдельной академической профессией — такая же ошибка, как и попытки держать отдельных специалистов по этике. В итоге вы получаете специалистов по этике, которые говорят в основном с другими специалистами по этике, и философов, которые говорят главным образом с другими философами.

Это не значит, что в мире нет места профессиональным философам. Некоторые проблемы столь хаотичны, что для них вообще нет устоявшегося места в стенах науки. Но этим «профессиональным философам» было бы очень, очень разумно усвоить каждую крупицу любой потенциально релевантной науки, до которой они только смогут дотянуться. Их не должна удивлять перспектива того, что спор в конечном итоге будет разрешён экспериментом, а не дискуссиями. Им не следует отступать перед проведением собственных экспериментов, если они вообще смогут таковые придумать.

В этом, мне кажется, и заключается урок истории.

*

241. Ты — физика.

Три месяца назад — боже, неужели прошло так много времени? — я дал следующее `домашнее задание: выполнить трассировку стека человеческих когнитивных алгоритмов, порождающих споры о «свободе воли». Заметьте, что эта задача принципиально отличается от споров о том, существует свобода воли или нет.

Теперь, как и ожидалось, люди спрашивают: «Если будущее предопределено, как наш выбор может им управлять?» Мудрый читатель может догадаться, что всё это в сумме даёт нормальность; но это оставляет открытым вопрос о том, `как`.

Люди слышат: «Вселенная работает как часы; физика детерминирована; `будущее предопределено». И их разум выстраивает причинно-следственную сеть, которая выглядит так:

Здесь мы видим причины «Я» и «Физика», конкурирующие за то, чтобы определить состояние следствия — «Будущего». Если «Будущее» полностью предопределено «Физикой», то очевидно, что влиянию «Я» просто не остаётся места.

Эта причинно-следственная сеть не является эксплицитным философским убеждением. Она имплицитна — это фоновое представление мозга, управляющее тем, какие философские аргументы кажутся «разумными». Просто кажется, что всё именно так и `устроено`.

Время от времени появляется очередной пресс-релиз от нейробиологов, утверждающий, что, поскольку исследователи с помощью фМРТ заметили, как мозг делает то или иное в процессе принятия решения, `выбираете не вы, а ваш мозг`.

Или вспомнить тот избитый довод: «Редукционизм подрывает саму рациональность. Ведь тогда каждый раз, когда вы что-то говорите, это не результат `рассуждений` на основе свидетельств — это просто кварки, скачущие туда-сюда».

Конечно, на самом деле диаграмма должна выглядеть так:

Или даже так:

Почему это не очевидно? Потому что модели наших мыслей — наших эмоций, убеждений, мучительных колебаний и окончательных решений — отделены от моделей электронов и кварков множеством уровней организации.

Мы можем `интуитивно` представить себе, что рука состоит из пальцев (включая большой) и ладони. Вопрос о том, `действительно ли` это наша рука что-то поднимает или же `всего лишь` наши пальцы и ладонь, очевидно некорректен.

Но пропасть между физикой и когнитивными процессами невозможно преодолеть непосредственным представлением. Никто не может `представить себе` атомы, составляющие человека, так же наглядно, как пальцы, составляющие руку.

И потому требуется `постоянная бдительность`, чтобы сохранять восприятие себя как сущности, находящейся `внутри физики`.

Эта бдительность — один из величайших ключей к философии, наряду с ошибкой проекции разума. Вы, вероятно, помните, что именно на этом моменте, по моему мнению, споткнулись квантовые физики, которые не смогли вообразить макроскопическую декогеренцию; они не подумали применить законы к `самим себе`.

Убеждения, желания, эмоции, мораль, цели, воображение, предвкушения, чувственное восприятие, мимолётные прихоти, идеалы, соблазны... Это можно назвать «поверхностным слоем» разума, теми частями «я», которые люди видят даже без помощи науки. Если я скажу: «Будущее определяете не `вы`, его определяют ваши `желания, планы и действия», вы легко увидите отношение части и целого. Это заметно сразу, как пальцы, составляющие руку. Есть и другие уровни отношений части и целого, вплоть до самой физики, но они не видны сразу.

«Компатибилизм» — это философская позиция, согласно которой «свободу воли» можно интуитивно понятным и удовлетворительным образом определить так, чтобы она была совместима с детерминистической физикой. «Инкомпатибилизм» — это позиция, утверждающая, что свобода воли и детерминизм несовместимы.

Мою собственную позицию, пожалуй, можно назвать «необходимизом». Если разумно раскрыть понятия субъектности, выбора, контроля и моральной ответственности, то окажется, что они `требуют` детерминизма — по крайней мере, отдельных островков детерминизма во Вселенной. Если вы выбираете, планируете, действуете и воплощаете в жизнь то или иное будущее в соответствии со своими желаниями, то всё это требует закономерной реальности; вы не можете делать этого в условиях абсолютного хаоса. Должен существовать порядок хотя бы в тех частях реальности, которыми вы управляете. `Вы` находитесь внутри физики, и поэтому