Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

шут, который баловался логикой. Шут преподнес королю две шкатулки. На первой шкатулке было написано: «Либо в этой шкатулке сидит злая лягушка, либо в шкатулке с ложной надписью, но не в обеих сразу». На второй шкатулке было написано:

«Либо в этой шкатулке лежит золото, а в шкатулке с ложной надписью сидит злая лягушка, либо в этой шкатулке сидит злая лягушка, а в шкатулке с истинной надписью лежит золото».

И шут сказал королю: «В одной шкатулке сидит злая лягушка, в другой — золото; и одна, и только одна из надписей истинна».

Король открыл не ту шкатулку и был истерзан злой лягушкой.

— Видите ли, — сказал шут, — давайте предположим, что первая надпись истинна. Тогда предположим, что в первой шкатулке лежит золото. В таком случае во второй шкатулке должна быть злая лягушка, в то время как в шкатулке с истинной надписью лежало бы золото, что сделало бы и второе утверждение истинным. Теперь предположим, что первая надпись ложна, а в первой шкатулке лежит золото. Тогда вторая надпись была бы...

Король приказал бросить шута в темницу.

День спустя закованного в цепи шута привели к королю и показали ему две шкатулки.

— В одной шкатулке лежит ключ, — сказал король, — чтобы расковать тебя; если найдешь его — ты свободен. Но во второй шкатулке лежит кинжал для твоего сердца, если ты ошибешься.

На первой шкатулке было написано:

Либо обе надписи истинны, либо обе ложны.

На второй шкатулке было написано:

В этой шкатулке лежит ключ.

Шут рассуждал так: «Предположим, что первая надпись истинна. Тогда вторая надпись тоже должна быть истинной. Теперь предположим, что первая надпись ложна. Тогда вторая надпись снова должна быть истинной. Следовательно, во второй шкатулке должен лежать ключ как в случае, если первая надпись истинна, так и в случае, если она ложна. Таким образом, логически во второй шкатулке должен быть ключ».

Шут открыл вторую шкатулку и нашел там кинжал.

— Как?! — в ужасе закричал шут, когда его поволокли прочь. — Это логически невозможно!

— Это вполне возможно, — ответил король. — Я просто сделал эти надписи на двух шкатулках, а затем положил кинжал во вторую.

*

1. Рэймонд М. Смаллиан, Как же называется эта книга? Загадка Дракулы и другие логические головоломки (Penguin Books, 1990).

154. Притча о болиголове. Все люди смертны. Сократ — человек. Следовательно, Сократ смертен. — Стандартный средневековый силлогизм. Сократ поднес чашу с болиголовом к губам... — Как думаешь, — спросил один из зевак, — неужели даже болиголов не сможет убить столь мудрого и добродетельного человека?

— Нет, — ответил другой из стоявших рядом, студент-философ; — все люди смертны, а Сократ — человек; и если смертный выпьет болиголов, он непременно умрет.

— Ну, — сказал зевака, — а что, если окажется, что Сократ не смертен?

— Глупости, — резковато ответил студент. — Все люди смертны по определению; это часть того, что мы подразумеваем под словом «человек». Все люди смертны, Сократ — человек, следовательно, Сократ смертен. Это не просто догадка, это логическая достоверность.

— Пожалуй, это так... — сказал зевака. — О, смотри, пока мы тут разговаривали, Сократ уже выпил болиголов.

— Да, теперь он должен с минуты на минуту упасть, — сказал студент.

И они ждали, и ждали, и ждали...

— Похоже, Сократ не смертен, — сказал зевака.

— Значит, Сократ — не человек, — ответил студент. — Все люди смертны, Сократ не смертен, следовательно, Сократ — не человек. И это не просто догадка, это логическая достоверность.

Фундаментальная проблема аргументов в пользу того, что вещи истинны «по определению», заключается в том, что вы не можете заставить реальность измениться, просто выбрав другое определение.

Рассуждать можно было бы, пожалуй, так: «Все наблюдаемые мною существа, которые носят одежду, говорят на каком-либо языке и пользуются инструментами, также обладали и другими общими свойствами, например, дышали воздухом и перекачивали красную кровь. Последние тридцать „людей“, принадлежащих к этой группе, которые, по моим наблюдениям, выпили болиголов, вскоре упали и перестали шевелиться. Сократ носит тогу, бегло говорит на древнегреческом и выпил болиголов из чаши. Поэтому я предсказываю, что Сократ упадет в ближайшие пять минут».

Но это было бы всего лишь догадкой. Это не было бы, знаете ли, абсолютно и навечно достоверным. Греческие философы — как и большинство философов донаучной эпохи — весьма любили достоверность.

К счастью, у греческих философов есть сокрушительный ответ на ваши сомнения. Вы неправильно поняли смысл фразы «Все люди смертны», говорят они. Это не просто наблюдение. Это часть определения слова «человек». Смертность — это одно из нескольких свойств, каждое из которых по отдельности необходимо, а все вместе достаточны для определения принадлежности к классу «человек». Утверждение «Все люди смертны» — логически корректная истина, абсолютно неоспоримая. И если Сократ — человек, он должен быть смертным: это логический вывод, достоверный настолько, насколько это вообще возможно.

Но тогда мы никогда не сможем наверняка знать, что Сократ — «человек», пока не увидим, что Сократ действительно смертен. Бесполезно наблюдать, что Сократ бегло говорит по-гречески, или что у него красная кровь, или даже что у него человеческая ДНК. Ни одна из этих характеристик не логически эквивалентна смертности. Вам нужно увидеть его смерть, прежде чем вы сможете сделать вывод, что он был человеком.

(И даже тогда это не будет абсолютно достоверно. Что, если Сократ восстанет из могилы на следующую ночь после того, как вы увидите его смерть? Или, если быть более реалистичным, что, если Сократ записался на крионику? Если смертность определяется как конечная продолжительность жизни, то вы никогда не сможете по-настоящему знать, был ли кто-то человеком, пока не понаблюдаете за ним до скончания веков — просто чтобы убедиться, что он не вернется. Или вы можете подумать, будто видели, как Сократ упал, но это могла быть иллюзия, проецируемая на вашу сетчатку сканером. А может, вам все это вообще померещилось...)

Проблема силлогизмов в том, что они всегда логически корректны. Утверждение «Все люди смертны; Сократ — человек; следовательно, Сократ смертен» — если рассматривать его как логический силлогизм — логически корректно в нашей собственной вселенной. Оно также логически корректно в соседних ветвях Эверетта, в которых из-за немного иначе эволюционировавшей биохимии болиголов является вкусным лакомством, а