Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

бы на миллиметр выше этого уровня, вы вовсе не «сражаетесь на стороне эволюции» против креационизма. Вы допускаете научную неточность, и точка. Вы попадаете в креационистскую ловушку, настаивая на том, что — да, ураган действительно способен собрать «Боинг-747»! Разве это не поразительно! Как изумительно умна эволюция, как она достойна похвалы! Посмотрите на меня, я присягаю на верность науке! Чем больше хорошего я скажу об эволюции, тем сильнее я, должно быть, на стороне эволюции против креационистов!

Но чрезмерное восхваление эволюции губит настоящее чудо, которое заключается не в том, насколько хорошо эволюция проектирует вещи, а в том, что естественному процессу удается спроектировать хоть что-то вообще.

Так давайте же избавимся от мысли, будто эволюция — это замечательный конструктор или чудесный вершитель судеб видов, которому мы, люди, должны подражать. Для человеческого разума подражать эволюции как конструктору — все равно что для высокоорганизованной современной бактерии пытаться подражать первому репликатору в роли биохимика. Как выразился Т. Г. Гексли, «бульдог Дарвина»:1

«Поймем же раз и навсегда, что этический прогресс общества зависит не от подражания космическому процессу, и еще менее от бегства от него, а от борьбы с ним».

Гексли сказал это не потому, что не верил в эволюцию, а потому, что понимал ее слишком хорошо.

*

1. Томас Генри Гексли, «Эволюция и этика и другие эссе» (Macmillan, 1894).

133. Эволюции глупы (но тем не менее работают). В предыдущем эссе я писал:

У науки есть очень точное представление о возможностях эволюции. Если вы превозносите эволюцию хотя бы на миллиметр больше этого, вы вовсе не «сражаетесь на стороне эволюции» против креационизма. Вы допускаете научную неточность, и точка.

В этом эссе я опишу некоторые общеизвестные неэффективности и ограничения эволюций. Я говорю «эволюций» во множественном числе, потому что эволюция лис преследует цели, противоположные целям эволюции кроликов, и ни та, ни другая не может пообщаться с эволюцией змей, чтобы научиться отращивать ядовитые клыки.

Итак, я говорю здесь об ограничениях эволюции, но это не значит, что я пытаюсь протащить креационизм. Это стандартный курс «Эволюционная биология 201». (583, если вам непременно нужно выводить уравнения.) Ограниченные таким образом эволюции все еще способны объяснить наблюдаемую биологию; на самом деле эти ограничения необходимы, чтобы в ней вообще был смысл. Помните, что чудо эволюций заключается не в том, насколько хорошо они работают, а в том, что они вообще работают.

Человеческий интеллект настолько сложен, что ни у кого нет хорошего способа рассчитать его эффективность. Естественный отбор, хотя и непрост, все же проще человеческого мозга — и, соответственно, медленнее и менее эффективен, как и подобает первому из когда-либо существовавших процессов оптимизации. На самом деле эволюции достаточно просты, чтобы мы могли рассчитать, насколько именно они глупы.

Эволюции медленны. Насколько медленны? Представьте, что произошла полезная мутация, которая дает преимущество в приспособленности в 3%: в среднем у носителей этого гена рождается в 1,03 раза больше детей, чем у тех, у кого его нет. Если предположить, что мутация вообще распространится, сколько времени потребуется, чтобы она охватила всю популяцию? Это зависит от размера популяции. Гену, дающему 3%-ное преимущество в приспособленности и распространяющемуся в популяции из 100 000 особей, потребуется в среднем 768 поколений, чтобы достичь универсальности в генофонде. Для популяции в 500 000 особей потребуется 875 поколений. Общая формула выглядит так:

Число поколений до фиксации = 2ln(N) / s,

где N — размер популяции, а (1 + s) — приспособленность. (Если у каждого носителя гена рождается в 1,03 раза больше детей, чем у не-носителя, то s = 0,03.)

Таким образом, если бы размер популяции составлял 1 000 000 человек — оценочный размер популяции во времена охотников-собирателей, — то для распространения гена, дающего преимущество в 1%, по всему генофонду потребовалось бы 2763 поколения.1

В этом нет ничего удивительного: генам приходится проделывать всю работу по своему распространению самостоятельно. Не существует никакой Эволюционной Феи, которая могла бы присматривать за генофондом и говорить: «Хм, этот ген, похоже, быстро распространяется — надо бы раздать его всем». В человеческой рыночной экономике тот, кто реально получает 20% прибыли на инвестиции (особенно если за этим стоит очевидный и понятный механизм), может быстро привлечь дополнительный капитал от других инвесторов, а конкуренты начнут создавать аналогичные предприятия. Генам же приходится распространяться без фондовых рынков, банков или подражателей — представьте, если бы Генри Форду пришлось собрать одну машину, продать её, купить на вырученные деньги детали в среднем еще для 1,01 машины, продать получившиеся машины и продолжать в том же духе, пока он не доберётся до миллиона машин.

И все это при условии, что ген вообще начнет распространяться. Здесь уравнение проще и в итоге совершенно не зависит от размера популяции:

Вероятность фиксации = 2s.

Мутация, дающая 3%-ное преимущество (а по меркам мутаций это чертовски много), имеет лишь 6%-ный шанс распространиться, по крайней мере в этот конкретный раз.2 Мутации могут происходить неоднократно, но в популяции из миллиона особей при точности копирования в 10⁻⁸ ошибок на основание за поколение вам, возможно, придется ждать еще сто поколений до следующей попытки, и даже тогда вероятность ее фиксации составит всего 6%.

И все же в долгосрочной перспективе у эволюции есть неплохой шанс в конечном итоге прийти к результату. (Эта тема еще не раз повторится.)

Сложные адаптации формируются очень долго. Сначала появляется аллель А, который выгоден сам по себе, и ему требуется тысяча поколений, чтобы закрепиться в генофонде. Только после этого другой аллель, B, зависящий от А, может начать путь к фиксации. Меховая шуба не дает большого преимущества, если только среда не имеет статистически устойчивой склонности подбрасывать вам холода. Так вот, гены составляют часть окружения других генов, и если B зависит от А, то B не получит весомого преимущества, если только А не присутствует надежно в генетическом окружении.

Допустим, B дает преимущество в 5% в присутствии A и никакого преимущества в его отсутствие. Тогда, пока частота встречаемости A в популяции составляет всего 1%, B будет давать свое преимущество лишь в одном случае из ста, так что среднее преимущество B в приспособленности составит 0,05%, а вероятность фиксации B будет равна 0,1%. В случае со сложной адаптацией сначала в течение тысячи поколений должен эволюционировать аллель A, затем еще тысячу поколений — аллель B, затем еще тысячу поколений