Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Ещё более мудрый философ может заподозрить, что путаница вокруг «свободы воли» указывает на изъян в самом этом понятии. И тогда он выбирает путь Традиционного Рационалиста: доказывает, что «свобода воли» внутренне противоречива или бессмысленна, поскольку не имеет проверяемых последствий. А затем публикует эти сокрушительные выводы в престижном философском журнале.

Но доказательство того, что вы запутались, не обязательно заставит вас чувствовать себя менее запутавшимся. Доказательство бессмысленности вопроса может помочь не больше, чем попытка на него ответить.

Инстинкт философа — найти наиболее защитимую позицию, опубликовать её и двигаться дальше. Но «наивный», инстинктивный взгляд — это факт человеческой психологии. Можно доказывать, что свобода воли невозможна, пока не остынет Солнце, но это оставляет необъяснённым факт когнитивной науки: если свободы воли не существует, что происходит в голове человека, который считает, что она есть? И это не риторический вопрос!

Тот факт, что люди верят в свободу воли — это факт человеческой психологии. Поиск более защитимой философской позиции не меняет и не объясняет этот психологический факт. Философия может подтолкнуть вас к тому, чтобы отвергнуть эту концепцию, но отвергнуть концепцию — не то же самое, что понять стоящие за ней когнитивные алгоритмы.

Можно взглянуть на стандартный спор вокруг вопроса «Если дерево падает в лесу, и никто его не слышит, издаёт ли оно звук?» и поступить как Традиционный Рационалист: заметить, что стороны не расходятся ни в одном пункте ожидаемого опыта, и триумфально объявить спор бессмысленным. В данном конкретном случае это действительно так; но если рассматривать это как вопрос когнитивной науки, почему спорящие вообще совершили эту ошибку?

Ключевая идея программы исследований эвристик и когнитивных искажений заключается в том, что совершаемые нами ошибки часто говорят о лежащих в их основе когнитивных алгоритмах гораздо больше, чем наши правильные ответы. И тогда (как-то раз спросил я себя) какая архитектура разума порождает ошибку спора о деревьях, падающих в безлюдных лесах?

Используемые нами когнитивные алгоритмы и есть то, как мы ощущаем мир. И эти когнитивные алгоритмы могут не иметь взаимно-однозначного соответствия с реальностью — даже с макроскопической реальностью, не говоря уже об истинных кварках. В разуме могут существовать вещи, которые ложатся вкось по отношению к миру.

Например, в центре нейронной сети может находиться «висящий» узел, который не соответствует ни одной реальной вещи или реальному свойству реальной вещи, существующей где-либо в реальном мире. Этот висящий узел часто полезен как способ оптимизировать вычисления, поэтому они у нас и есть. (Метафорически выражаясь. Человеческая нейробиология, конечно, гораздо сложнее.)

Этот висящий узел ощущается как нерешённый вопрос даже после того, как даны ответы на все вопросы, на которые вообще можно ответить. Сколько бы вам ни доказывали, что от ответа на этот вопрос не зависит никакая разница в ожидаемом опыте, вы всё равно задаётесь вопросом: «Но издаёт ли падающее дерево звук на самом деле или нет?»

Но как только вы в деталях поймёте, как ваш мозг порождает ощущение вопроса — как только вы осознаете, что ваше ощущение неотвеченного вопроса соответствует иллюзорному центральному узлу, который хочет знать, должен ли он сработать, даже когда все периферийные узлы зафиксированы на известных значениях — или, что ещё лучше, когда вы поймёте технические принципы работы наивного байесовского классификатора — вот тогда дело сделано. Тогда не остаётся ни затаившегося замешательства, ни смутного чувства неудовлетворённости.

Если остаётся хоть какое-то смутное ощущение неотвеченного вопроса или чувство, что вас просто заболтали, то это знак, что вы не растворили вопрос. Смутная неудовлетворённость должна настораживать так же сильно, как и громкий крик. Настоящее растворение вопроса не оставляет после себя ничего.

Триумфальное громогласное опровержение свободы воли, абсолютно неоспоримое доказательство того, что свобода воли не может существовать, приносит огромное удовлетворение — как победный клич в честь своей команды. И за этим вы можете не заметить, что — с точки зрения когнитивистики — у вас нет полного и исчерпывающего описательного объяснения того, как именно, шаг за шагом, возникает каждое интуитивное ощущение.

Возможно, вам даже не захочется признавать своё невежество в этом вопросе когнитивной науки, потому что это ощущалось бы как гол в ворота Вашей Команды. Посреди разгрома всех этих глупых верований в свободу воли признание того, что вы оставили хоть что-то необъяснённым, выглядело бы как уступка противоположной стороне.

И потому вы, возможно, придумаете притянутый за уши эволюционно-психологический аргумент о том, что охотники-собиратели, верившие в свободу воли, с большей вероятностью смотрели на жизнь позитивно и потому оставляли больше потомства, чем другие охотники-собиратели — и это лишь один из примеров совершенно надуманных объяснений. Утверждая подобное, вы лишь доказываете, что мозг создаёт иллюзию свободы воли, но не объясняете как. Вы пытаетесь отмахнуться от оппонентов, препарируя их мотивы, но в вашей истории иллюзия свободы воли остаётся непреложным фактом. Вы не разобрали её на части, чтобы разглядеть колёсики и шестерёнки.

Представьте, что в Стандартном Споре о дереве, падающем в безлюдном лесу, вы сначала доказываете, что никакой разницы в ожиданиях нет, а затем выдвигаете гипотезу: «Но, возможно, люди, говорившие, что спорить бессмысленно, воспринимались как признавшие поражение и тем самым теряли социальный статус, так что теперь у нас есть инстинкт спорить о значении слов». В данном случае вы лишь доказываете, что путаница существует, или объясняете почему она существует. Теперь взгляните на структуру нейронной сети в эссе «Почувствуй смысл». Вот это — объяснение как, разбор путаницы на мелкие составляющие, которые сами по себе не вызывают путаницы. Видите разницу?

Выдвигать хорошие гипотезы о когнитивных алгоритмах (или хотя бы гипотезы, которые не рассыпаются в первые полсекунды) — задача куда более трудная, чем просто опровергнуть философскую путаницу. В действительности это совершенно другое искусство. Помните об этом, и вам будет не так неловко сказать: «Я знаю, что ваши слова не могут быть правдой, и могу это доказать. Но я не могу составить блок-схему, показывающую, как именно ваш мозг совершает эту ошибку, поэтому я ещё не закончил и продолжу исследование».

Я говорю всё это потому, что иногда мне кажется: как минимум 20% практической эффективности опытного рационалиста заключается в умении не останавливаться слишком рано. Если продолжать задавать вопросы, в конце концов вы доберётесь до цели. Если же вы слишком рано решите, что нашли ответ, то цели вам не достичь.

Сложнее всего