Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

обнаружить: звезды населены инопланетянами, которые удивительно похожи на людей в нелепых костюмах — или даже на людей с легким слоем грима и латекса — или просто на бежевых европеоидов в чистом виде.

Звёздный путь: Оригинальный сериал, «Арена», © CBS Corporation

Удивительно, как человеческий облик оказывается естественной базовой моделью для всей Вселенной, от которой путем нескольких модификаций происходят все остальные инопланетные виды.

Что же могло бы объяснить это поразительное явление? Конвергентная эволюция, разумеется! Хотя эти инопланетные формы жизни развивались на тысячах чужих планет, совершенно независимо от земной жизни, все они получились одинаковыми.

Пусть вас не сбивает с толку то, что кенгуру (млекопитающее) похож на нас гораздо меньше, чем шимпанзе (примат), а также то, что лягушка (земноводные, которые, как и мы, относятся к четвероногим) похожа на нас меньше, чем кенгуру. Пусть вас не смущает ошеломляющее разнообразие насекомых, которые отделились от нас еще раньше, чем лягушки; пусть вас не смущает, что у насекомых шесть ног, наружный скелет, другая оптическая система и весьма отличные от наших сексуальные обычаи.

Вы могли бы подумать, что по-настоящему инопланетный вид должен отличаться от нас сильнее, чем мы отличаемся от насекомых. Как я уже сказал, не дайте себя обмануть. Чтобы у инопланетного вида развился разум, у него должно быть две ноги с одним коленом на каждой, прикрепленные к прямостоящему туловищу, и ходить он должен так же, как мы. Видите ли, любому разуму нужны руки, поэтому для этой цели приходится перепрофилировать пару ног — а если вы не начнете с четвероногого существа, оно не сможет развить беговую походку и начать ходить прямо, освободив руки.

. . . Или, возможно, нам стоит рассмотреть альтернативную теорию: использование людей в нелепых костюмах — это просто путь наименьшего сопротивления.

Но настоящая проблема кроется не в форме, а в разуме. «Люди в нелепых костюмах» — известный термин в фэндоме литературной научной фантастики, и он вовсе не относится к существу с четырьмя конечностями, которое ходит на двух ногах. Угловатое существо из чистого кристалла — это тоже «человек в нелепом костюме», если оно мыслит поразительно похоже на человека, особенно как человек англоязычной культуры конца XX — начала XXI века.

Я редко смотрю старые фильмы. Несколько лет назад, когда я смотрел фильм «Психо» (1960), меня поразила культурная пропасть между американцами на экране и моей Америкой. Застегнутые на все пуговицы персонажи «Психо» кажутся куда более чуждыми, чем подавляющее большинство так называемых «инопланетян», которых я встречаю на телевидении или в кино.

Чтобы описать культуру, которая не похожа на вашу собственную, нужно уметь видеть в своей культуре лишь частный случай, а не норму, от которой должны отталкиваться все остальные культуры. Изучение истории может помочь, но это всего лишь маленькие черные буквы на маленьких белых страницах, а не живой опыт. Подозреваю, что гораздо полезнее было бы пожить годик в Китае, Дубае или среди народа !кунг . . . но я этого никогда не делал из-за вечной занятости. Время от времени я задаюсь вопросом: чего же я могу не замечать (не там, а здесь)?

Видеть в собственной человеческой природе частный случай гораздо труднее.

Кажется, в любой известной культуре люди испытывают радость, грусть, страх, отвращение, гнев и удивление. В любой известной культуре эти эмоции выражаются одинаковой мимикой. В следующий раз, когда вы увидите «инопланетянина» — или, коли на то пошло, «ИИ», — бьюсь об заклад, что, когда он разозлится (а он разозлится), он изобразит универсальное человеческое выражение гнева.

Под черепной коробкой мы, люди, очень похожи — это следствие того, что мы являемся видом с половым размножением; невозможно, чтобы у каждого были свои, отличные от других сложные адаптации, иначе они просто не сложились бы в единую систему. (Размножаются ли инопланетяне половым путем, как люди и многие насекомые? Обмениваются ли они мелкими фрагментами генетического материала, как бактерии? Образуют ли колонии, как грибы? Применимо ли к ним правило психологического единства?)

Единственные разумные существа, которыми вашим предкам приходилось манипулировать — причем сложным образом, а не просто приручать или ловить сетями, — единственные разумы, которые вашим предкам приходилось моделировать в деталях, работали примерно так же, как их собственные. И поэтому в процессе эволюции мы научились предсказывать Другие Разумы, ставя себя на их место и спрашивая, что бы мы сделали в такой ситуации; ведь то, что требовалось предсказать, было похоже на самого предсказателя.

«Что? — скажете вы. — Я вовсе не считаю, что другие люди точно такие же, как я! Может, мне грустно, а они злятся! Они верят в другие вещи, и характеры у них другие!» Посмотрите на это с такой стороны: человеческий мозг — чрезвычайно сложная физическая система. Вы ведь не моделируете его нейрон за нейроном или атом за атомом. Если бы вы столкнулись с физической системой, столь же сложной, как человеческий мозг, но не похожей на вас, потребовались бы поколения ученых, чтобы разобраться в ней. Вы не понимаете, как устроен человеческий мозг в абстрактном, общем смысле; вы не можете его создать и даже не можете построить компьютерную модель, которая предсказывала бы поведение других мозгов так же хорошо, как предсказываете вы.

Единственная причина, по которой вы вообще можете пытаться постичь нечто столь физически сложное и малоизученное, как мозг другого человека, заключается в том, что вы настраиваете собственный мозг на его имитацию. Вы проявляете эмпатию (хотя, возможно, и не сочувствуете). Вы проецируете на собственный мозг тень гнева другого разума и тень его убеждений. Возможно, вы никогда не произносите мысленно слов: «Что бы я сделал в этой ситуации?», но эта крошечная тень чужого разума, которую вы удерживаете в себе, оживает в вашем собственном мозгу, задействуя те же сложные механизмы, что работают в другом человеке, и синхронизируя шестеренки, устройства которых вы не понимаете. Вы можете сами не испытывать гнева, но вы знаете, что если бы вы злились на вас, и вы верили, что вы — безбожная мразь, то вы попытались бы вам навредить...

Этот «эмпатический вывод» (как я его назову) более или менее работает для людей.

Но разумы с другими эмоциями — разумы, которые испытывают эмоции, которых вы сами никогда не знали, или не испытывают тех эмоций, которые испытали бы вы? Это то, чего вы не сможете постичь, пытаясь поставить свой мозг на место чужого мозга. Я могу предложить вам представить инопланетянина, выросшего во вселенной с