Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

заметить, что вы в замешательстве — пусть даже это лишь крошечный намёк на замешательство — и даже если прямо перед вами стоит человек, настаивающий, что у людей есть свобода воли, и ухмыляющийся вам в лицо, а тот факт, что вы не знаете точно, как работают когнитивные алгоритмы, не имеет никакого отношения к вопиющей глупости его позиции...

Но когда вы сможете изложить когнитивный алгоритм во всех подробностях — так, чтобы пройти по всему мыслительному процессу шаг за шагом и описать, как возникает каждое интуитивное восприятие, разобрать замешательство на мелкие фрагменты, которые сами по себе не вызывают путаницы, — вот тогда вы закончили.

Поэтому имейте в виду: вы можете верить, что закончили, хотя на самом деле у вас есть лишь триумфальное опровержение ошибки.

Но когда вы закончите по-настоящему, вы будете знать, что закончили. Растворение вопроса — это безошибочно узнаваемое чувство; стоит один раз его испытать, и, испытав, вы решите больше никогда не давать себя обмануть. Спящие не знают, что спят, но, проснувшись, вы точно знаете, что бодрствуете.

Иными словами: когда вы закончите, вы будете знать, что закончили, но, к сожалению, в обратную сторону это правило не работает.

Итак, вот вам домашнее задание: какой когнитивный алгоритм, если ощущать его изнутри, порождает наблюдаемые споры о «свободе воли»?

Ваша задача — не спорить о том, есть ли у людей свобода воли или нет.

Ваша задача — не доказывать, совместима ли свобода воли с детерминизмом или нет.

Ваша задача — не утверждать, что вопрос поставлен некорректно, что это понятие внутренне противоречиво или что оно не имеет проверяемых последствий.

От вас не требуется придумывать эволюционное объяснение того, как размножались люди, верившие в свободу воли, или описывать, каким образом концепция свободы воли подозрительно совпадает с когнитивным искажением X. Всё это лишь попытки объяснить, почему люди верят в «свободу воли», а вовсе не объяснить как.

Ваше домашнее задание — написать трассировку стека для внутренних алгоритмов человеческого разума в процессе порождения ими тех самых интуитивных ощущений, на которых держится весь этот чёртов философский спор.

Когда-то давно, будучи начинающим рационалистом, я выбрал это в качестве одного из своих первых серьёзных вызовов. Одна из самых простых головоломок, сравнительно говоря. Пусть она послужит и вам.

*

190. Неправильные вопросы.

Там, где разум идет вразрез с устройством реальности, он порождает неправильные вопросы — вопросы, на которые невозможно ответить в их собственных рамках, но которые можно лишь растворить, разобравшись в когнитивном алгоритме, порождающем восприятие вопроса.

Один из верных признаков того, что перед вами «неправильный вопрос»: вы не можете даже представить себе никакого конкретного устройства мира, которое послужило бы на него ответом. Когда ответить на него даже не кажется возможным.

Возьмем, к примеру, стандартный спор об определениях — о дереве, падающем в пустом лесу. Существует ли хоть какое-то устройство мира — хоть какое-то положение дел, — при котором слово «звук» на самом деле означает только акустические вибрации или же на самом деле означает только слуховые ощущения?

(«Ну как же, — скажет кто-то, — это такое положение дел, при котором "звук" означает акустические вибрации». Что ж, наложите табу на слова «означает», «выражает» и все подобные синонимы и попробуйте описать еще раз: какое устройство мира, какое положение дел сделало бы одну сторону правой, а другую — неправой?)

Или, если это кажется слишком простым, возьмите свободу воли: какое конкретное положение дел — в детерминистической физике или в физике со случайным компонентом вроде броска костей — могло бы вообще соответствовать наличию свободы воли?

А если и это кажется слишком простым, спросите: «Почему вообще хоть что-то существует?» — а затем скажите мне, как удовлетворительный ответ на этот вопрос вообще должен выглядеть.

И нет, я не знаю ответа на этот последний вопрос. Но я могу предположить одну вещь, основываясь на своем прошлом опыте работы с неразрешимыми вопросами. Ответ не будет заключаться в какой-то великой торжествующей Первопричине. Вопрос исчезнет в результате понимания того, как мои ментальные алгоритмы идут вкось относительно реальности, после чего я пойму, что сам вопрос изначально был неправильным — что он сам по себе опирался на ошибку и содержал в себе этот перекос.

Тайна существует в разуме, а не в реальности. Если я чего-то не знаю о каком-то явлении, это факт о моем состоянии ума, а не факт о самом явлении. Тем более если кажется, что никакого ответа вообще не может существовать: путаница — на карте, а не на территории. Неразрешимые вопросы не указывают на места, где во вселенную проникает магия. Они указывают на места, где ваш разум идет вкось относительно реальности.

Такие вопросы должны быть растворены. Попытки ответить на них ни к чему хорошему не приводят. Это неизбежно порождает худшую разновидность Таинственного Ответа на Таинственный Вопрос — когда вы придумываете кажущиеся вескими аргументы в пользу своего Таинственного Ответа, но этот «ответ» не позволяет вам сделать никаких новых предсказаний даже задним числом, а само явление по-прежнему сохраняет ту же священную необъяснимость, что и в самом начале.

Я мог бы, к примеру, предположить, что ответ на загадку Первопричины заключается в том, что ничего не существует вообще — что сама концепция «существования» надуманна. Но если бы вы искренне в это верили, разве это избавило бы вас от путаницы? Меня — нет.

Но прелесть неразрешимых вопросов в том, что они всегда решаемы — по крайней мере, судя по моему опыту. Что пришло в голову королеве Елизавете I первым делом с утра, когда она проснулась в день своего сорокалетия? Поскольку я легко могу представить ответы на этот вопрос, я без труда понимаю, что, возможно, никогда не смогу действительно ответить на него — ведь истинная информация затерялась во времени.

С другой стороны, вопрос «Почему вообще хоть что-то существует?» кажется настолько абсолютно невозможным, что я могу сделать вывод: я просто запутался, так или иначе, и истина, скорее всего, не так уж сложна в абсолютном смысле, и как только путаница исчезнет, я смогу её увидеть.

Это может показаться контринтуитивным, если вы никогда не решали неразрешимых вопросов, но уверяю вас: всё именно так и работает.

Далее: простой прием для работы с «неправильными вопросами».

*

191. Исправление неправильного вопроса.