Квантовые вычисления со времен Демокрита - Скотт Ааронсон

Второе следствие заключается в том, что если мы предоставим компьютеру ту же свободу, которую Пенроуз щедро дарует людям, — а именно свободу просто допустить непротиворечивость базовой формальной системы, — то компьютер сможет доказать G(F).

Так что вопрос сводится к следующему: может ли человеческий разум каким-то образом проникнуть взглядом в платоновы небеса, чтобы непосредственно воспринять, скажем так, непротиворечивость теории множеств ZF? Если ответ «нет», если мы можем подходить к математической истине только с теми же ненадежными, настроенными на жизнь в саванне инструментами, которые используем для стирки белья, заказа китайских блюд на дом и т. п., то нам, как мне представляется, следует признать за компьютерами право на ту же свободу ошибаться. Но тогда заявленное различие между человеком и машиной, о котором идет речь, быстро испарится.

Возможно, лучше всего об этом сказал сам Тьюринг[84]: «Если мы хотим, чтобы машина была разумна, она не может одновременно быть непогрешимой. Существуют теоремы, в которых доказывается почти в точности это».

На мой взгляд, Пенроузу вообще не нужно говорить о теореме Гёделя. Аргумент Гёделя оказывается всего лишь математическим изложением гораздо более старого аргумента против редукционизма: «Конечно, компьютер мог бы сказать, что понимает G(F), но на самом деле он всего лишь играет символами! Когда я говорю, что понимаю G(F), я подразумеваю именно это! Я знаю, каково это — чувствовать, что я это я!»

Очевидный ответ на этот аргумент не менее стар: «Почему вы считаете, что нет такого ощущения — быть компьютером?»

Открываем черный ящик

Так, сморим далее: Роджер Пенроуз — один из величайших специалистов по математической физике на Земле. Может ли быть, что мы неверно восстановили ход его мысли?

На мой взгляд, самые правдоподобные варианты аргумента Пенроуза те, что основаны на «асимметрии понимания», а именно то, что мы, понимая внутреннее устройство и принципы работы компьютера, не понимаем пока внутреннего устройства и принципов работы мозга.

Как можно использовать эту асимметрию? Ну, если дана любая известная машина Тьюринга M, безусловно, можно построить высказывание, которое поставит ее в тупик:

S(M) = «Машина M никогда не выведет это высказывание».

Есть два варианта: либо M выведет S(M), и это будет означать, что она вывела ложь, либо M не выведет S(M), и это будет означать, что существует математическая истина, с которой она не может согласиться.

Очевидный ответ таков: почему бы нам не сыграть в ту же игру с человеком?

«Роджер Пенроуз никогда не выведет это высказывание».

Можно полагать, что на это есть ответ: потому что мы можем формально определить, что значит для машины M вывести нечто, если разберемся в ее внутреннем устройстве. В самом деле, «M» — это всего лишь сокращенное обозначение диаграммы состояния подходящей машины Тьюринга. Но можем ли мы формально определить, что значит для Пенроуза что-то вывести? Ответ зависит от того, что нам известно о внутреннем устройстве и работе человеческого мозга, или, точнее, мозга Пенроуза! А это приводит нас к представлению Пенроуза о мозге как объекте «некомпьютерном».

Есть распространенная ошибка: люди думают, что Пенроуз считает мозг квантовым компьютером. На самом же деле квантовый компьютер был бы намного слабее, чем ему нужно! Как мы видели ранее, квантовые компьютеры, судя по всему, не способны даже решать NP-полные задачи за полиномиальное время. Пенроуз, напротив, хочет, чтобы мозг решал невычислимые задачи с использованием гипотетических эффектов коллапса из еще не открытой квантовой теории гравитации.

Я однажды спросил Пенроуза: почему не пойти дальше и не предположить, что мозг способен решать задачи, невычислимые даже при наличии оракула для проблемы остановки, или оракула для проблемы остановки машины Тьюринга с оракулом для проблемы остановки, и т. п.? Он ответил, что да, это он бы тоже предположил.

Я лично всегда считал, что если Пенроуз в самом деле хочет порассуждать о невозможности моделирования мозга на компьютере, то ему следует говорить не о вычислимости, а о сложности. Причина просто в том, что в принципе мы всегда можем смоделировать человека при помощи громадной таблицы преобразования, в которой закодирована реакция человека на каждый вопрос, который может быть ему задан на протяжении, скажем, ближайшего миллиона лет. При желании мы могли бы закодировать в этой таблице также голос, жесты, выражения лица и другие особенности этого человека. Ясно, что такая таблица будет конечной. Так что всегда возможна какая-то модель человеческого существа, вопрос только в том, будет ли такая модель эффективной!

Вы можете возразить, что если бы люди могли жить бесконечно или хотя бы произвольно долго, то таблица перекодировки не была бы конечной. Это верно, но несущественно. Факт есть факт: люди регулярно решают, что другие люди обладают разумом, после нескольких минут общения с ними! (Мало того, иногда такой вывод делается после нескольких минут обмена электронными письмами или смс-сообщениями.) Так что если вы не планируете удариться в картезианский скептицизм по поводу каждого встреченного в фейсбуке, чате и т. п. персонажа, то просто должно существовать относительно небольшое целое n, такое, что после обмена не более чем n битами вы можете быть в разумной степени уверены, что ваш собеседник обладает разумом.

В книге «Тени разума» (своеобразное «продолжение» книги «Новый разум короля») Пенроуз признает, что человека-математика всегда можно смоделировать на компьютере с громадной таблицей перекодировки. Затем он утверждает, что такая таблица не являлась бы «настоящей» моделью, поскольку, к примеру, не было бы оснований считать, что любое конкретное заявление в этой таблице истинно, а не ложно. Проблема здесь в том, что этот аргумент откровенно противоречит центральной, как могло бы показаться, мысли Пенроуза, а именно что машина не может даже имитировать человеческий интеллект, не говоря уже о том, чтобы проявлять его!

В «Тенях» Пенроуз предлагает следующую классификацию взглядов на сознание:

1. Сознание можно свести к вычислительным процессам (точка зрения сторонников сильного ИИ).

2. Конечно, сознание можно имитировать при помощи компьютера, но имитация не в состоянии обеспечить «настоящее понимание» (точка зрения Джона Сёрла).

3. Сознание невозможно даже имитировать при помощи компьютера, однако оно тем не менее имеет научное объяснение (точка зрения самого Пенроуза, судя по «Теням»).

4. Сознание вовсе не имеет научного объяснения (точка зрения 99 % всех, кто когда-либо жил на свете).

Кстати говоря, мне кажется, что Пенроуз, отбрасывая таблицы перекодировки как «ненастоящую» модель, отступает с точки зрения C на точку зрения B. Ведь если мы скажем, что прохождения теста Тьюринга недостаточно, что необходимо «вскрыть ящик»