Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

вычислима по Тьюрингу, мы никогда не сможем конкретно вообразить что-либо, что не вычислимо по Тьюрингу — неважно, сколько уровней иерархии оракулов остановки могут обсуждать наши математики, мы не сможем предсказать, что оракул остановки на самом деле выдаст, так, чтобы экспериментально отличить это от просто вычислимых рассуждений.

Разумеется, все это при условии, что «скучный взгляд» верен. В той мере, в какой вы верите в истинность эволюции, вам не следует ожидать веских доказательств против нее. В той мере, в какой вы верите в истинность редукционизма, вам следует ожидать, что нередукционистские гипотезы окажутся не только ложными, но и противоречивыми. В той мере, в какой вы считаете ложным сверхъестественное, вам следует ожидать, что оно окажется еще и немыслимым.

Если же, с другой стороны, какая-то сверхъестественная гипотеза окажется верной, то вы, по всей видимости, обнаружите, что она вовсе не немыслима.

Так давайте замкнем круг и вернемся к вопросу о Разумном замысле (Intelligent Design):

Должен ли Разумный замысел быть априори исключен из сферы экспериментального опровержения и школьных уроков естествознания на том основании, что, апеллируя к сверхъестественному, он выводит себя за рамки натурфилософии?

Мой ответ: «Конечно, нет». Несводимость разумного создателя не является обязательной частью гипотезы Разумного замысла. Для каждого несводимого Бога, которого могут предложить сторонники Разумного замысла, существует соответствующий ему сводимый инопланетянин, который ведет себя в согласии с теми же предсказаниями — поскольку сами сторонники Разумного замысла сводимы. В той мере, в какой я считаю редукционизм верным — а я убежден в этом весьма сильно, — я должен ожидать, что обнаружу сводимые формулировки для всех якобы сверхъестественных прогностических моделей.

Если мы изучаем археологические свидетельства, чтобы проверить утверждение о том, что Иегова раздвинул воды Красного моря из явного желания продемонстрировать свою сверхчеловеческую силу, то нет особой разницы, является ли Иегова онтологически первичным, или же он инопланетянин с нанотехнологиями, или Темный Лорд Матрицы. Вы проводите раскопки, не находите ни останков скелетов, ни доспехов на дне Красного моря, зато находите свидетельства того, что Египет в то время правил большей частью Ханаана. И вы ставите на библейской исторической хронике штамп «опровергнуто» и идете дальше. Эта гипотеза последовательна, опровержима и неверна.

То же самое касается и биологических свидетельств того, что лисы созданы для того, чтобы гоняться за кроликами, кролики — чтобы убегать от лис, и ни те, ни другие не созданы «для продолжения своего рода» или «защиты гармонии Природы»; то же самое касается сетчатки глаза, устроенной задом наперед, со светочувствительными элементами в самом низу; и так далее в тысяче других свидетельств фрагментарного, аморального и некомпетентного замысла. Модель Иеговы как нашего бога-пришельца последовательна, опровержима и неверна — точнее, последовательна до тех пор, пока вам неважно, является ли Иегова онтологически первичным или просто пришельцем.

Просто преобразуйте сверхъестественную гипотезу в соответствующую естественную. Просто делайте те же предсказания тем же способом, не утверждая при этом, что ментальные сущности онтологически первичны. Обращайтесь при необходимости к «черному ящику» своего мозга, чтобы строить предсказания — скажем, если вы хотите рассуждать о «гневливом боге», не создавая при этом полноценный гневающийся ИИ, который помечал бы поведение как гневливое или негневливое. Таким образом вы выводите предсказания или ищете предсказания, сделанные древними теологами, которые ничего не знали заранее о результатах наших экспериментов. Если эксперимент противоречит этим предсказаниям, то вполне справедливо говорить о том, что религиозное утверждение было научно опровергнуто. Ему был предоставлен честный шанс подтвердиться; оно исключается апостериори, а не априори.

В конечном счете редукционизм — это просто неверие в фундаментально сложные вещи. Если «фундаментально сложное» звучит как оксюморон... что ж, именно поэтому я считаю доктрину нередукционизма заблуждением, а не тем, как всё могло бы быть устроено, но не устроено. Вам следовало бы поостеречься, если вы ловите себя на подобных предположениях.

Но главное правило науки — посмотреть и увидеть. Если бы когда-либо явился Бог, чтобы метать громы в горах, это было бы тем, на что люди посмотрели и что увидели.

Следствие: Любой предполагаемый создатель сильного искусственного интеллекта, который рассуждает о религиозных верованиях в уважительном тоне, явно не является экспертом по сведению ментальных сущностей к нементальным; и на самом деле знает так мало о самых базовых основах, что вряд ли можно поверить, будто он может быть мастером этого искусства; если только его савантизм не абсолютен. Или, разумеется, если он просто бессовестно врет. Речь идет не о какой-то тонкой ошибке.

*

228. Экстрасенсорные способности. В прошлом эссе я писал:

Если «скучный взгляд» на реальность верен, то вы никогда не сможете предсказать ничего несводимого, потому что вы сводимы. Вы никогда не сможете получить байесовское подтверждение гипотезы несводимости, поскольку любое предсказание, которое вы способны сделать, следовательно, может быть сделано и сводимой вещью — а именно вашим мозгом.

Бенья Фалленштайн прокомментировал:

Думаю, хотя в данном случае и невозможно разработать эмпирический тест, результат которого мог бы логически доказать несводимость, нет явных причин полагать, что нельзя разработать тест, контрфактический исход которого в несводимом мире сделал бы несводимость субъективно гораздо более вероятной (при априорной оценке по бритве Оккама).

Не вдаваясь в вопросы сводимости/несводимости, представьте сценарий, в котором физическая вселенная позволяет создать гиперкомпьютер — например, выполняющий операции над произвольными действительными числами, — но наш мозг этим на самом деле не пользуется: его вполне можно смоделировать на обычной машине Тьюринга, и на том спасибо...

Что ж, это очень разумный довод, Бенья Фалленштайн. Но у меня есть сокрушительный ответ на твой аргумент, такой, что, стоит мне его озвучить, ты тут же прекратишь со мной любые дальнейшие споры по этому поводу:

Ты прав.

Увы, прослыть скромником на этот раз мне не удастся, поскольку после публикации прошлого эссе я сам обнаружил аналогичный изъян — на этот раз касающийся бритвы Оккама и экстрасенсорных способностей:

Если убеждения и желания являются несводимыми и онтологически базовыми сущностями или имеют онтологически базовый компонент, не охватываемый современной наукой, это сделало бы гораздо более вероятным существование онтологического правила, управляющего взаимодействием между разумами, — взаимодействием в обход обычных «материальных» средств связи вроде звуковых волн, известных современной науке.

Если натурализм верен, то существует сопряженная редукционистская модель, которая дает те же самые предсказания, что и любое конкретное предсказание касательно телепатии, выдвинутое любым парапсихологом.

Действительно, если натурализм верен, единственная причина, по которой мы вообще можем мыслить об убеждениях как