Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

В этой системе вообще нет никого, кто выступал бы защитником слонов.

Люди, которых часто глубоко волнует благополучие животных, могут очень убедительно доказывать, что те или иные проявления милосердия ничуть не повредили бы репродуктивной приспособленности. К сожалению, эволюция слонов не пользуется подобным алгоритмом; она не отбирает добрые гены, в пользу полезности которых для репродуктивной приспособленности можно привести правдоподобные доводы. Всё просто: гены, которые копируются чаще, становятся более распространенными в следующем поколении. Как вода, текущая под уклон, — и столь же благожелательно.

Человек, обозревая Природу, начинает думать обо всех способах, какими мы могли бы сконструировать организмы. И затем мы склонны подыскивать рациональные объяснения тому, почему наши улучшения конструкции повысили бы репродуктивную приспособленность — чистый политический инстинкт, попытка продвинуть свой любимый вариант, выдав его за соответствующий излюбленному обоснованию босса.

В итоге биологи-эволюционисты-любители строят самые разные прекрасные и совершенно ошибочные прогнозы. Потому что биологи-любители подводят свой итог — и, что еще важнее, помещают свое предсказание в пространство гипотез — с помощью иного алгоритма, нежели тот, который использует эволюция для подведения своих итогов.

Человек-инженер спроектировал бы человеческие вкусовые рецепторы так, чтобы они измеряли, сколько у нас есть каждого питательного вещества и сколько нам требуется. Когда жиров не хватало, миндаль или чизбургеры казались бы невероятно вкусными. Но если бы вы начали полнеть или если бы вам не хватало витаминов, самым вкусным казался бы салат-латук. Но не существует Феи Эволюции Человека, которая бы разумно планировала наперед и создала общую систему на любой случай жизни. Надежным инвариантом среды обитания предков человека было то, что калорий всегда не хватало. Поэтому гены, носители которых обожали калории, становились более частыми. Как вода, текущая под уклон.

Мы — просто живое воплощение истории того, какие организмы в действительности выжили и дали потомство, а не того, каким организмам разумно следовало бы выжить и дать потомство.

Человеческая сетчатка устроена шиворот-навыворот: светочувствительные клетки находятся сзади, а нервы выходят спереди и тянутся назад сквозь сетчатку в мозг. Отсюда слепое пятно. Инженеру-человеку это кажется просто глупым — тем более что у других организмов в ходе независимой эволюции развилась «правильно» ориентированная сетчатка. Почему бы не перепроектировать сетчатку?

Проблема в том, что ни одна отдельная мутация не перестроит всю сетчатку разом. Человек-инженер может перепроектировать несколько частей одновременно или планировать изменения наперед. Но если одна мутация ломает какую-то жизненно важную часть организма, уже не имеет значения, какую чудесную надстройку над ней могла бы соорудить Фея, — организм погибает, а частота гена падает.

Если развернуть клетки сетчатки без одновременного перепрограммирования нервов и зрительного кабеля, система в целом не заработает. И неважно, что с точки зрения Феи или инженера-человека это шаг вперед на пути к перепроектированию сетчатки. Организм слеп. У эволюции нет предвидения, это просто застывшая история того, какие организмы в действительности размножились. Эволюция так же слепа, как наполовину перестроенная сетчатка.

«Найдите часы в пустыне, — говорил Уильям Пейли, — и вы сможете сделать вывод о существовании часового мастера». Когда-то были те, кто это отрицал и считал, что жизнь возникла «сама собой», без всякой нужды в процессе оптимизации, а мыши самозарождаются в соломе и грязных рубахах.

Если спросить, кто был более прав — теологи, отстаивавшие Бога-Творца, или интеллектуально неудовлетворенные атеисты, утверждавшие, что мыши зарождаются самопроизвольно, — то победителями придется признать теологов: эволюция — это не Бог, но она ближе к Богу, чем к чистой случайной энтропии. Мутации случайны, но отбор неслучаен. Это не значит, что какая-то разумная Фея вмешивается и делает выбор. Это значит, что между геном и тем, как часто организм размножается, существует ненулевая статистическая корреляция. За несколько миллионов лет эта ненулевая статистическая корреляция складывается во что-то невероятно мощное. Это не бог, но это гораздо ближе к богу, чем к «снегу» на экране телевизора.

Во многих отношениях эволюция подобна теологии. «Боги должны онтологически отличаться от творений, — сказал Дэмиен Бродерик, — иначе они не стоят и той бумаги, на которой о них написано». И действительно, Ваятель Жизни сам по себе творением не является. Эволюция бестелесна, как иудео-христианское божество. Вездесуща в Природе, имманентна падению каждого листа. Обширна, как поверхность планеты. Возрастом в миллиарды лет. Сама по себе не сотворенная, естественным образом возникающая из структуры физики. Разве всё это не звучит как то, что вполне можно было бы сказать о Боге?

И все же у этого Создателя нет разума, как нет и тела. С человеческой точки зрения, плоды его трудов в некотором отношении спроектированы невероятно скверно. Он внутренне разделен. И самое главное, он совсем не добр.

В каком-то смысле Дарвин открыл Бога — Бога, который не совпал с теологическими шаблонами и потому остался непризнанным. Если бы Дарвин обнаружил, что жизнь создана разумным творцом — бестелесным разумом, который любит нас и испепелит молнией, посмей мы утверждать обратное, — люди бы воскликнули: «Боже мой! Да это же Бог!»

Но вместо этого Дарвин открыл странного, чуждого Бога — не уютно-«непостижимого», а действительно, по-настоящему отличающегося от нас. Эволюция — не Бог, но будь она богом, это был бы не Иегова. Это был бы Азатот Говарда Лавкрафта — слепой безумный бог, хаотично бормочущий в самом центре бытия под тонкий монотонный писк флейт.

Что и можно было предсказать, если бы вы действительно всмотрелись в Природу.

Вот и грош цена заявлениям некоторых верующих о том, что они верят в некое неопределенное божество, вероятность существования которого соответственно высока. Любой, кто действительно верил бы в неопределенное божество, узнал бы своего странного нечеловеческого создателя, как только Дарвин сказал: «Ага!»

Вот и грош цена заявлениям некоторых верующих о том, будто они с невинным любопытством ждут, когда Наука откроет Бога. Наука уже открыла этого своего рода божественного создателя человека — но это было совсем не то, что верующие хотели услышать. Они ждали открытия своего Бога, совершенно определённого Бога, которого они хотят там видеть. Они будут ждать вечно, ибо великое открытие уже состоялось, и победителем оказался Азатот.

Что ж, тем лучше для нас, людей. Мне приятно сознавать, что у меня есть Творец, которого я могу перехитрить. Это всяко лучше, чем быть домашним питомцем. Я рад, что им оказался Азатот, а не Один.

*

1. Под ред. Фрэнсиса Дарвина, The Life and Letters of Charles Darwin, vol. 2