Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Верил ли ты в магию, которая работает независимо от того, веришь ты в нее или нет, независимо от того, веришь ли ты в магию, которая работает независимо от того, веришь ты в нее или нет?

— Я так… не думаю… — с сомнением говорит Отри.

— Тогда если ты не верил в магию, которая работает независимо от того, веришь ли ты… погоди секунду, мне нужно разобраться с этим с помощью карандаша и бумаги, — Марк лихорадочно что-то записывает, со скептическим видом смотрит на результат, переворачивает листок вверх ногами, а затем сдается. — Неважно, — говорит Марк. — Мне и так трудно постичь магию, а метамагия мне и вовсе не по зубам.

— Марк, не думаю, что ты понимаешь искусство ведроделия, — говорю я. — Дело не в том, чтобы использовать камешки для управления овцами. Дело в том, чтобы овцы управляли камешками. В этом искусстве не нужно начинать с веры в то, что оно сработает. Скорее наоборот: сначала искусство работает, а уже потом человек начинает в него верить.

— Ну, или ты так веришь, — говорит Марк.

— Так я верю, — отвечаю я, — потому что это факт. Соответствие между реальностью и моими убеждениями возникает из-за того, что реальность управляет моими убеждениями, а не наоборот.

Мимо проходит еще одна овца, и я бросаю в ведро очередной камешек.

— Ага! Вот мы и подошли к корню проблемы, — говорит Марк. — Что это вообще за штука такая, так называемая «реальность»? Я понимаю, что значит для гипотезы быть элегантной, фальсифицируемой или совместимой с доказательствами. Но мне кажется, что называть убеждение «истинным», «реальным» или «действительным» — это всего лишь разница между тем, чтобы сказать, будто ты во что-то веришь, и тем, чтобы сказать, будто ты ну очень, очень сильно в это веришь.

Я заминаюсь. — Ну… — медленно произношу я. — Откровенно говоря, я и сам не до конца уверен, откуда берется эта штука под названием «реальность». Я не могу создать собственную реальность в лаборатории, так что, должно быть, я пока её не понимаю. Но время от времени я твердо верю, что должно произойти одно, а вместо этого происходит нечто совсем другое. Мне нужно как-то называть то, что определяет результаты моих экспериментов, поэтому я называю это «реальностью». Эта «реальность» каким-то образом отделена даже от моих самых лучших гипотез. Даже когда у меня есть простая гипотеза, твердо подкрепленная всеми известными мне доказательствами, я порой все равно удивляюсь. Поэтому мне нужны разные названия для штуковин, которые определяют мои предсказания, и для штуковины, которая определяет результаты моих экспериментов. Первые штуковины я называю «убеждениями», а вторую штуковину — «реальностью».

Марк фыркает: — Я вообще не знаю, зачем трачу время на эту очевидную чепуху. Что бы ты ни говорил о своей так называемой «реальности», это всего лишь еще одно убеждение. Даже твоя вера в то, что реальность предшествует твоим убеждениям, — это тоже убеждение. Из этого с логической неизбежностью следует, что реальности не существует; существуют только убеждения.

— Погоди, — говорит Отри, — не мог бы ты повторить последнюю часть? Ты потерял меня на том резком повороте посредине.

— Что бы ты ни говорил о реальности, это просто еще одно убеждение, — объясняет Марк. — Отсюда с сокрушительной необходимостью следует, что никакой реальности нет, есть только убеждения.

— Понимаю, — говорю я. — Точно так же, что бы ты ни ел, тебе приходится есть это ртом. Из этого следует, что никакой еды нет, есть только рты.

— Именно, — говорит Марк. — Всё, что ты ешь, должно находиться у тебя во рту. Как может существовать еда вне твоего рта? Сама эта мысль абсурдна, что доказывает: «еда» — это внутренне противоречивое понятие. Вот почему мы все умираем с голоду: еды не существует.

Отри смотрит на свой живот. — Но я не умираю с голоду.

— Ага! — триумфально выкрикивает Марк. — И как ты только что высказал это самое возражение? Своим ртом, мой друг! Своим ртом! Какое еще доказательство того, что еды не существует, тебе нужно?

«Что это за разговоры о голоде?» — требует ответа резкий, скрипучий голос прямо у нас за спиной. Мы с Отри сохраняем спокойствие — нам не привыкать. Марк подпрыгивает на фут в воздух, перепуганный чуть не до смерти.

Инспектор Дарвин натянуто улыбается, довольный произведенным эффектом неожиданности, и делает небольшую пометку в своем планшете.

— Это просто метафора! — быстро говорит Марк. — Вам вовсе не нужно забирать мой рот или делать что-то в этом роде...

— Зачем тебе рот, если нет еды? — сердито вопрошает Дарвин. — Впрочем, неважно. У меня нет времени на эти глупости. Я здесь, чтобы осмотреть овец.

— Стадо процветает, сэр, — говорю я. — С января ни одна овца не сдохла.

— Прекрасно. Я присуждаю вам 0,12 единиц приспособленности. А теперь — что этот человек здесь делает? Является ли он необходимой частью рабочего процесса?

— Насколько я могу судить, он принес бы больше пользы человеческому виду, если бы его подвесили к воздушному шару в качестве балласта, — говорю я.

— Ой-ой, — мягко произносит Отри.

— Меня не заботит человеческий вид. Пусть он говорит сам за себя.

Марк высокомерно выпрямляется. — Этот всего лишь пастух, — говорит он, указывая на меня, — утверждает, что существует такая вещь, как реальность. Это оскорбляет меня, ибо я знаю с глубокой и неизменной уверенностью, что никакой истины нет. Концепция «истины» — не более чем уловка, позволяющая людям навязывать свои убеждения другим. У каждой культуры своя «истина», и ни одна культурная «истина» не превосходит другую. То, что я сейчас сказал, применимо во все времена и во всех местах, и я настаиваю, чтобы вы согласились.

— Погоди-ка секунду, — говорит Отри. — Если ничто не истинно, почему я должен верить тебе, когда ты говоришь, что ничто не истинно?

— Я не говорил, что ничто не истинно... — начинает Марк.

— Нет, говорил, — вставляет Отри, — я сам слышал.

— ...я сказал, что «истина» — это оправдание, используемое некоторыми культурами для навязывания своих убеждений другим. Поэтому, когда ты говоришь, что нечто «истинно», ты имеешь в виду лишь то, что твоей собственной социальной группе выгодно, чтобы в это верили.

— И то, что ты только что