Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Но является ли ГТП зомби вообще? То есть ведет ли она себя в точности как человек, не обладая при этом сознанием?

Язык ГТП-управляемого тела говорит о сознании. Его пальцы пишут философские статьи. Во всех отношениях, пока вы не заглянете внутрь черепа, ГТП выглядит точно так же, как человек... что, безусловно, кажется подходящим примером зомби: ведет себя в точности как человек, но дома никого нет.

Разве что сама ГТП обладает сознанием — но в этом случае пример окажется некорректным.

Не припомню, чтобы мне попадались утверждения кого-либо, будто ГТП обладает сознанием. (Надо признать, мои познания литературы в этой области не дотягивают до профессионального уровня; не стесняйтесь меня поправить.) Даже те, кого обвиняют в том, что они (о боже!) функционалисты, не утверждают, что ГТП могут быть сознательными.

ГТП — это reductio ad absurdum для любого, кто предполагает, будто сознание — это просто шаблон «ввод-вывод», избавляясь тем самым от всех беспокоящих вопросов о том, что происходит внутри.

Так что же Обобщенный антизомбийный принцип (ОАЗП) говорит о Гигантской таблице поиска (ГТП)?

На первый взгляд кажется, что ГТП — это сам архетип Повелителя Зомби: отдельная, дополнительная, обнаруживаемая, бессознательная система, которая оживляет зомби и заставляет его говорить о сознании по иным причинам.

Внутри ГТП скрывается лишь простейшая компьютерная программа, которая ищет входные данные и выдает соответствующий ответ. В подобном случае даже говорить о «простой компьютерной программе» — значит преувеличивать. ГТП больше похожа на ПЗУ, чем на ЦП. С тем же успехом мы могли бы говорить о системе переключаемых желобов, по которым шары скатываются из заранее уложенной стопки в приемник — и точка; это всё, что делает ГТП.

Представитель организации «Люди за этичное обращение с зомби» (ЛЭОЗ) возражает: «О, все антимеханисты говорят одно и то же, не так ли? Что если заглянуть в мозг, то обнаружишь лишь кучку нейромедиаторов, открывающих ионные каналы? Если ионные каналы могут быть сознательными, то почему бы и рычагам с шарами, катящимися в лотки, ими не быть?»

«Проблема не в рычагах, — отвечает функционалист, — проблема в том, что у ГТП неправильный паттерн рычагов. Нужны рычаги, которые реализуют такие вещи, как, скажем, формирование убеждений об убеждениях или самомоделирование... Черт, вам нужна возможность записывать данные в память просто для того, чтобы для вычисления могло идти время. Если только вы не считаете, что можно запрограммировать сознательное существо на Haskell».

«Этого я не знаю, — говорит представитель ЛЭОЗ, — я знаю лишь то, что этот так называемый зомби пишет философские статьи о сознании. Откуда берутся эти статьи, если не из сознания?»

Хороший вопрос! Давайте поразмыслим над ним глубже.

В физике есть игра под названием «Проследи за энергией». Отец Ричарда Фейнмана играл в неё с маленьким Ричардом:

Мой отец заговорил бы примерно об этом: «Что заставляет её двигаться? Всё движется потому, что светит Солнце». И дальше мы бы с увлечением обсуждали это:

— Нет, игрушка движется, потому что заведена пружина, — говорил я. — А как завелась пружина? — спрашивал он.

— Я её завёл.

— А откуда движение в тебе самом?

— Из еды.

— А еда растёт только потому, что светит Солнце. Получается, именно потому, что светит Солнце, все эти вещи и движутся. Так он доносил до меня идею о том, что движение — это просто трансформация солнечной энергии.2

Когда становишься немного старше, узнаёшь, что энергия сохраняется — она не создается и не уничтожается, поэтому понятие расходования энергии теряет смысл. Полное количество энергии изменить невозможно, так в каком же смысле вы её используете?

И когда физики вырастают, они учатся играть в новую игру под названием «Проследи за негэнтропией» — которая, по сути, представляет собой всё ту же игру, в которую они играли всегда; только правила в ней более математизированы, сама игра полезнее, а её принципы сложнее уложить в голове концептуально.

Рационалисты учатся игре под названием «Проследи за невероятностью» — взрослой версии игры «Откуда ты знаешь?». Правило игры рационалистов состоит в том, что любое кажущееся маловероятным убеждение требует эквивалентного количества доказательств для своего обоснования. (У этой игры поразительно похожие правила с «Проследи за негэнтропией».)

Каждый раз, когда кто-то нарушает правила этой игры, в их аргументации можно найти место, где некое количество невероятности возникает из ниоткуда; и это столь же явный признак проблемы, как, скажем, хитроумная конструкция из соединенных колес и шестеренок, которая работает вечно.

Кто-то приходит к вам и говорит: «Я твердо и непоколебимо верю, что в поясе астероидов есть объект, фут в поперечнике и целиком состоящий из шоколадного торта; вы не можете доказать, что это невозможно». Но если у этого человека нет доступа к какому-либо свидетельству в пользу этого убеждения, то вероятность того, что истинное убеждение сформируется самопроизвольно, крайне мала. Так что либо этот человек может указать на доказательства, либо убеждение окажется ложным. «Но вы не можете доказать, что для моего разума невозможно спонтанно породить убеждение, которое случайно окажется верным!» Нет, но подобное самозарождение крайне невероятно — примерно как, скажем, разбитое яйцо, собирающееся обратно.

В игре «Проследи за невероятностью» крайне подозрительно даже просто говорить о конкретной гипотезе, не имея достаточных доказательств, чтобы сузить пространство возможных гипотез. Почему вы не уделяете столько же эфирного времени дециллиону других столь же правдоподобных гипотез? Вам нужны достаточные свидетельства, чтобы вообще обнаружить гипотезу о «шоколадном торте в поясе астероидов» в пространстве гипотез — иначе нет никаких причин уделять ей больше внимания, чем триллиону других кандидатов вроде «В поясе астероидов летает деревянный комод» или «Летающий Макаронный Монстр срыгнул мне на кроссовки».

В «Проследи за невероятностью» вам не позволено брать сложные, подробные, конкретные гипотезы с потолка, не имея уже соответствующего объема доказательств; потому что нереалистично предполагать, будто вы можете спонтанно начать обсуждать истинную гипотезу по чистому совпадению.

Философ говорит: «В черепе этого зомби содержится Гигантская таблица поиска (GLUT), где записаны все входные и выходные сигналы мозга какого-то человека». Это очень большая невероятность. И вы спрашиваете: «Как произошло это маловероятное событие? Откуда взялась GLUT?»

Но это не стандартная философская процедура для мысленных экспериментов. В стандартной философской процедуре вам разрешается постулировать вещи вроде «Представьте, что вы летите верхом на световом луче...», не беспокоясь о физической возможности, не говоря уже о простой невероятности. Но