Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

— что благодетельный и всемогущий Бог намеренно создал наездников с явным намерением, чтобы они кормились внутри живых тел гусениц, или чтобы кошка играла с мышами».1 Интересно, отмечал ли кто-то из мыслителей прошлого, какое замечательное доказательство в пользу манихейства против монотеизма дает этот факт?

К настоящему моменту мы все знаем развязку: достаточно просто сказать «эволюция».

Боюсь, именно так некоторые люди и воспринимают «научное» объяснение — как некую волшебную фабрику целесообразности в природе. Ранее я уже обсуждал случай со Шторм из фильма «Люди Икс», которая всего за одну мутацию получает способность метать молнии. Почему? Ну, просто существует штука под названием «эволюция», которая каким-то образом накачивает природу целесообразностью, а изменения происходят посредством «мутаций». И если Шторм претерпит по-настоящему крупную мутацию, её организм перестроится так, чтобы метать молнии. Радиоактивность — популярный источник суперсил: радиация вызывает мутации, значит, более мощное излучение вызывает более мощные мутации. Железная логика.

Но эволюция не позволяет проникать в природу какой угодно целесообразности. Именно поэтому эволюция так успешна как эмпирическая гипотеза. Если бы эволюционная биология могла объяснить устройство тостера, а не только дерева, грош бы ей был цена. Теория эволюции — это гораздо больше, чем просто указать пальцем на природу и сказать: «Теперь целесообразность разрешена!» или «Это сделала эволюция!». Сила теории не в том, что она разрешает, а в том, что она запрещает; если вы можете придумать одинаково убедительное объяснение для любого исхода, ваши знания равны нулю.

«Многие далекие от биологии люди, — заметил Джордж Уильямс, — думают, что погремушка на хвосте гремучей змеи растет ради их собственного блага».2 Мимо! Такой вид целесообразности не допускается. Эволюция работает иначе: она не впускает случайные вспышки целесообразности, перекраивая один вид на благо случайного адресата.

Двигателем эволюции служит систематическая корреляция между различными способами, которыми разные гены строят организмы, и тем, сколько копий этих генов попадает в следующее поколение. Чтобы на хвостах гремучих змей выросли погремушки, гены, отвечающие за рост погремушек, должны встречаться всё чаще и чаще в каждом последующем поколении. (На самом деле — гены, отвечающие за постепенное усложнение погремушек, но если я начну описывать все тонкости и оговорки эволюционной биологии, мы действительно застрянем здесь на весь день.)

Не существует никакой Феи Эволюции, которая обозревала бы текущее состояние природы, решала, что было бы «отличной идеей», и выбирала бы повышение частоты генов, строящих погремушки.

Полагаю, именно на этом моменте многие люди и спотыкаются в эволюционной биологии. Они понимают, что «полезные» гены распространяются шире, но «полезность» позволяет просочиться целесообразности любого рода. Они не верят в существование Феи Эволюции, но при этом рассуждают о том, какие гены будут «полезными», словно ген гремучей змеи может «помочь» тем, кто гремучей змеей не является.

Ключевое осознание состоит в том, что никакой Феи Эволюции не существует. Нет никакой внешней силы, решающей, какие гены следует продвигать. Всё, что происходит, происходит благодаря самим генам.

Гены, отвечающие за построение (постепенно улучшающихся) погремушек, должны были каким-то образом стать более частыми в генофонде гремучих змей благодаря самой погремушке. В данном случае это произошло, вероятно, потому, что змеи с лучшими погремушками выживают чаще — а не потому, что они успешнее спариваются или их братья более успешно размножаются, и так далее.

Возможно, хищники остерегаются погремушек и не наступают на змею. А может быть, погремушка отвлекает внимание от головы змеи. (Как предполагает Джордж Уильямс: «Исход схватки между собакой и гадюкой во многом зависит от того, схватит ли собака рептилию сначала за голову или за хвост».)

Но это всего лишь змеиная погремушка. Существуют гораздо более сложные способы, которыми ген может способствовать увеличению частоты своих копий в следующем поколении. У вашего брата или вашей сестры — половина ваших генов. Ген, который жертвует одной единицей ресурсов, чтобы одарить тремя единицами ресурсов брата, может продвигать свои копии, жертвуя одним из созданных им организмов. (Если вы действительно хотите узнать все подробности и оговорки, купите книгу по эволюционной биологии; царского пути здесь нет.)

Главное заключается в том, что эффект гена должен приводить к тому, чтобы копии этого гена становились более частыми в следующем поколении. Нет никакой Феи Эволюции, вмешивающейся извне. Нет ничего, что решало бы, будто некоторые гены «полезны» и потому должны увеличивать свою частоту. Это просто причина и следствие, берущие начало в самих генах.

Это объясняет странную, полную внутренних противоречий целесообразность Природы и её частую жестокость. Это объясняет происходящее даже лучше, чем полчища синтоистских божеств.

Почему столь большая часть Природы воюет с другими её частями? Потому что нет единой Эволюции, направляющей весь процесс. Существует столько же различных «эволюций», сколько размножающихся популяций. Гены кроликов становятся более или менее частыми в популяциях кроликов. Гены лисиц становятся более или менее частыми в популяциях лисиц. Гены лисиц, создающие лис, которые ловят кроликов, оставляют больше своих копий в следующем поколении. Гены кроликов, создающие кроликов, которые убегают от лис, естественным образом оказываются более распространенными в следующем поколении кроликов. Отсюда и выражение «естественный отбор».

Почему Природа жестока? Вы, человек, можете посмотреть на осу-наездника и решить, что поедать свою добычу заживо — это жестоко. Вы можете решить, что если уж вы собираетесь есть свою добычу живьем, то могли бы иметь хоть каплю приличия и избавить её от боли. Осе почти ничего не стоило бы не просто парализовать добычу, но и обезболить её. Или как насчет старых слонов, которые умирают от голода, когда у них выпадает последний комплект зубов? Эти слоны всё равно больше не будут размножаться. Чего бы стоило эволюции — точнее, эволюции слонов — сделать так, чтобы слон умирал сразу же, а не медленно и в муках? Чего бы стоило эволюции обезболить слона или подарить ему приятные сны перед смертью? Ничего; этот слон в любом случае не принесет больше или меньше потомства.

Если бы вы разговаривали с другим человеком, пытаясь разрешить конфликт интересов, вы были бы в выгодной позиции для переговоров — вам было бы легко его убедить. Ведь это стоит так мало — обезболить добычу, дать слону умереть без мучений! Пожалуйста, сделай это, будь так любезен... гм...

Но спорить не с кем.

Люди придумывают свои обоснования: сначала определяют, чего они хотят, одним способом, а затем обосновывают это другим. Не существует Феи Эволюции Слонов, которая пыталась бы (а) выяснить, что лучше для слонов, а затем (б) придумать, как обосновать это перед Эволюционным Смотрителем, который (в) не хочет снижения репродуктивной