Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Когда вы сталкиваетесь с неразрешимым вопросом — вопросом, ответ на который, кажется, невозможно даже представить, — есть простой трюк, который позволяет сделать этот вопрос решаемым.

Сравните:

«Почему у меня есть свобода воли?»

«Почему я думаю, что у меня есть свобода воли?»

Прелесть второго вопроса в том, что он гарантированно имеет реальный ответ, независимо от того, существует ли вообще свобода воли. Вопросы вроде «Почему у меня есть свобода воли?» или «Есть ли у меня свобода воли?» заставляют вас размышлять о мельчайших деталях законов физики, настолько далеких от макроскопического уровня, что их невозможно увидеть невооруженным глазом. И вы спрашиваете «Почему X имеет место?», когда X может даже не быть осмысленным, не говоря уже о том, чтобы иметь место в реальности.

Вопрос «Почему я думаю, что у меня есть свобода воли?», напротив, гарантированно имеет ответ. Вы действительно верите, что у вас есть свобода воли. Это убеждение кажется гораздо более прочным и осязаемым, чем эфемерность свободы воли. И на самом деле существует вполне конкретная цепочка когнитивных причин и следствий, ведущая к этому убеждению.

Если вы уже переросли свободу воли, выберите один из этих вариантов:

«Почему время движется вперед, а не назад?» против «Почему я думаю, что время движется вперед, а не назад?»

«Почему я родился собой, а не кем-то другим?» против «Почему я думаю, что родился собой, а не кем-то другим?»

«Почему я обладаю сознанием?» против «Почему я думаю, что обладаю сознанием?»

«Почему реальность существует?» против «Почему я думаю, что реальность существует?»

Красота этого метода в том, что он работает независимо от того, является ли сам вопрос ошибочным. Прямо сейчас, когда я это пишу, на мне надеты носки. Я мог бы спросить: «Почему на мне надеты носки?» или «Почему я верю, что на мне надеты носки?» Допустим, я задам второй вопрос. Прослеживая цепочку причинно-следственных связей назад, я обнаружу следующее:

Я верю, что на мне надеты носки, потому что я вижу носки на своих ногах.

Я вижу носки на своих ногах, потому что моя сетчатка посылает сигналы о носках в зрительную кору.

Моя сетчатка посылает сигналы о носках, потому что свет в форме носков попадает на мою сетчатку.

Свет в форме носков попадает на мою сетчатку, потому что он отражается от носков, которые на мне надеты.

Он отражается от носков, которые на мне надеты, потому что на мне надеты носки.

На мне надеты носки, потому что я их надел.

Я надел носки, потому что верил, что иначе мои ноги замерзнут.

И так далее.

Шаг за шагом прослеживая цепочку причинности назад, я обнаруживаю, что мое убеждение в том, что на мне надеты носки, полностью объясняется тем фактом, что на мне надеты носки. Это правильно и естественно, поскольку вы не можете получить информацию о чём-либо без взаимодействия с этим объектом.

С другой стороны, если я вижу мираж озера в пустыне, то правильное причинное объяснение моего видения не включает в себя факт реального существования озера в пустыне. В этом случае моя вера в существование озера не просто объясняется, а развеивается.

Но в любом случае само убеждение — это реальный феномен, происходящий в реальной вселенной (психологические события — это тоже события), и его причинную историю можно проследить назад.

Вопрос «Почему посреди пустыни находится озеро?» может зайти в тупик, если никакого озера для объяснения нет. Но вопрос «Почему я воспринимаю озеро посреди пустыни?» всегда имеет причинное объяснение, так или иначе.

Возможно, кто-то решит проявить остроумие и скажет: «Ладно. Я верю в свободу воли, потому что она у меня есть. Всё, я закончил». Конечно же, всё не так просто.

Моё восприятие носков на ногах — это событие в зрительной коре. Работа зрительной коры может быть исследована когнитивной наукой, если она кажется непонятной.

Получение света моей сетчаткой — это не мистическая процедура восприятия, не волшебный детектор носков, который без всякой понятной причины загорается при их наличии; здесь действуют механизмы, которые можно понять в терминах биологии. Проникновение фотонов в сетчатку можно понять в терминах оптики. Отражающую способность поверхности обуви можно понять в терминах электромагнетизма и химии. Замерзание моих ног можно понять в терминах термодинамики.

Так что нельзя просто сказать: «Я верю, что у меня есть свобода воли, потому что она у меня есть — всё, я закончил!» Вы должны быть способны разбить причинно-следственную цепочку на более мелкие шаги и объяснить эти шаги через элементы, которые сами по себе не вызывают путаницы.

Механическое взаимодействие моей сетчатки с носками вполне очевидно и может быть описано через понятные компоненты вроде фотонов и электронов. Но где в вашем мозгу находится датчик свободы воли и как именно он обнаруживает её присутствие или отсутствие? Как этот датчик взаимодействует с воспринимаемым событием и каковы механические детали этого взаимодействия?

Если ваше убеждение действительно проистекает из достоверного наблюдения за реальным явлением, мы в конечном итоге придем к этому факту, начав прослеживать причинно-следственную связь назад от вашего убеждения.

Если же то, что вы видите на самом деле, — это лишь ваша собственная путаница, то, проследив цепочку причинности назад, мы обнаружим алгоритм, который идет вразрез с реальностью.

В любом случае, на этот вопрос гарантированно найдется ответ. У вас даже есть отличная, конкретная отправная точка для этого поиска — ваше убеждение, прочно укоренившееся в вашем сознании.

Когнитивистика может казаться не столь возвышенной и величественной, как метафизика. Но, по крайней мере, вопросы когнитивистики разрешимы. Найти ответ может быть непросто, но, по крайней мере, этот ответ существует.

Ах да, и еще: представление о том, что когнитивистика не столь возвышенна и величественна, как метафизика, попросту ошибочно. Надеюсь, некоторые читатели уже начинают это замечать.

*

192. Ошибка проекции разума.

На заре научной фантастики инопланетные захватчики время от времени похищали девушек в разорванных платьях и уносили их, намереваясь над ними надругаться, как это с любовью изображали на обложках тех древних журналов. Как ни странно, инопланетяне никогда не зарились на мужчин в разорванных рубашках.

Станет ли негуманоидный пришелец с иной эволюционной историей и эволюционной психологией испытывать сексуальное влечение к человеческой женщине? Это кажется довольно маловероятным. Мягко говоря.

Люди совершают подобные ошибки не потому, что сознательно рассуждают: «Все возможные разумы наверняка устроены примерно одинаково, следовательно, пучеглазое чудовище сочтет