Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

К тому же другие эволюции ей не подражают. Если эволюция змей разработает потрясающий новый яд, это никак не поможет эволюции лис или львов.

Сопоставьте все это с работой человека-программиста, который способен разработать новый сложный механизм из сотни взаимозависимых деталей всего за один день. Как такое вообще возможно? Я не знаю ответа целиком и подозреваю, что науке это тоже неизвестно; человеческий мозг устроен гораздо сложнее, чем эволюции. Я мог бы поумничать и сказать что-то вроде «целенаправленный обратный вывод с использованием комбинаторных модульных представлений», но это не поможет вам сконструировать собственного человека. Тем не менее: люди способны дальновидно проектировать новые детали в расчете на последующее создание других деталей; производить скоординированные одновременные изменения во взаимосвязанных механизмах; учиться на основе единичных примеров; локализовать проблемные места и абстрактно мыслить над их решением; а также расставлять приоритеты, определяя, какие улучшения стоит опробовать, вместо того чтобы ждать, пока космический луч случайно породит удачную мутацию. По меркам естественного отбора это чистой воды магия.

Люди способны делать вещи, которые эволюциям, вероятно, не под силу в принципе за все ожидаемое время существования Вселенной. Как однажды выразилась выдающийся биолог Синтия Кеньон на ужине, на котором я имел честь присутствовать: «Один аспирант за час может сделать то, что эволюция не смогла бы сделать и за миллиард лет». Согласно современным научным представлениям биологов, эволюции изобретали полностью вращающееся колесо в общей сложности всего три раза.

И не забывайте о том, как программист выкладывает фрагмент кода в интернет.

Да, некоторые творения эволюции впечатляют даже в сравнении с лучшими технологиями Homo sapiens. Но наш собственный кембрийский взрыв начался, и мы по-настоящему начали накапливать знания всего лишь... ну сколько, лет четыреста назад? В некоторых отношениях биология всё еще превосходит лучшие человеческие технологии: мы не умеем создавать самовоспроизводящиеся системы размером с бабочку. В других же отношениях человеческие технологии оставляют биологию далеко позади. У нас есть колеса, у нас есть сталь, у нас есть ружья, у нас есть ножи, у нас есть заостренные палки; у нас есть ракеты, у нас есть транзисторы, у нас есть атомные электростанции. С каждым десятилетием этот баланс смещается всё сильнее.

Итак, еще раз: если человек ищет в естественном отборе вдохновение для искусства проектирования, это всё равно что высокоразвитая современная бактерия попыталась бы скопировать биохимию самого первого, неуклюжего репликатора. Появись первый репликатор в сегодняшней конкурентной экосистеме, его сожрали бы мгновенно. Та же участь постигнет любого проектировщика-человека, который вздумает вносить случайные точечные мутации в свои стратегии и ждать 768 циклов тестирования, чтобы внедрить 3%-ное улучшение.

Не хвалите эволюции ни на миллиметр больше, чем они того заслуживают.

Впереди: еще больше захватывающих математических ограничений для эволюции!

*

1. Дэн Граур и Вэнь-Сюн Ли, Fundamentals of Molecular Evolution, 2nd ed. (Sunderland, MA: Sinauer Associates, 2000).

2. Джон Б. С. Холдейн, «A Mathematical Theory of Natural and Artificial Selection», Mathematical Proceedings of the Cambridge Philosophical Society 23 (5 1927): 607–615, doi:10.1017/S0305004100011750.

134. Никакой эволюции для корпораций или наноустройств.

Законы физики и правила математики не перестают действовать. Это даёт мне основания полагать, что эволюция не останавливается. А это, в свою очередь, наводит на мысль, что природа — «с окровавленными клыками и когтями», как её называют, — просто перейдет на следующий уровень...

[Избавиться от дарвиновской эволюции] — все равно что пытаться избавиться от гравитации. Пока существуют ограниченные ресурсы и множество конкурирующих агентов, способных передавать свои характеристики по наследству, вы будете иметь давление отбора.

— Перри Мецгер, предсказывающий, что царствование естественного отбора продолжится в неопределенном будущем

В эволюционной биологии, как и во многих других областях, важно мыслить количественно, а не качественно. «Распространяется ли полезная мутация иногда, но не всегда?» Что ж, экстрасенсорные способности были бы полезной мутацией, так что логично ожидать их распространения, верно? Но это качественное рассуждение, а не количественное: «если верно Х, то верно Y»; «если экстрасенсорные способности полезны, они могут распространиться». В эссе «Эволюции глупы» я описал уравнения для вероятности фиксации полезной мутации — она примерно равна удвоенному преимуществу в приспособленности (6% при преимуществе в 3%). Только такое числовое мышление способно заставить нас осознать, что мутации, которые полезны лишь изредка, имеют крайне мало шансов распространиться, и что возникновение сложных адаптаций практически невозможно без постоянного использования. Если бы экстрасенсорные способности действительно существовали, нам следовало бы ожидать, что все пользуются ими постоянно — не только потому, что они были бы невероятно полезны, но и потому, что иначе они просто не смогли бы развиться в процессе эволюции.

«Пока существуют ограниченные ресурсы и множество конкурирующих агентов, способных передавать свои характеристики, вы будете иметь давление отбора». Это качественное рассуждение. Насколько сильное давление?

Хотя на звание самого важного уравнения в эволюционной биологии есть несколько кандидатов, я бы выбрал уравнение Прайса, которое в своей простейшей формулировке выглядит так:

▵z = cov(vi, zi)

изменение среднего значения признака = ковариация(относительная приспособленность, признак).

Это очень мощная и универсальная формула. Например, конкретный ген роста может быть тем самым Z — признаком, который меняется; в таком случае уравнение Прайса говорит, что изменение вероятности обладания этим геном равно ковариации гена с репродуктивной приспособленностью. Либо же вы можете рассматривать рост в целом как признак Z, безотносительно конкретных генов, и тогда уравнение Прайса скажет, что изменение роста в следующем поколении будет равно ковариации роста с относительной репродуктивной приспособленностью.

(По крайней мере, это верно до тех пор, пока рост наследуется напрямую. Если улучшается питание, так что фиксированный генотип становится выше, в уравнение Прайса приходится вносить поправку. Если между множеством генов существуют сложные нелинейные взаимодействия, вам придется либо добавить поправочный член, либо рассчитывать уравнение столь сложным путем, что оно перестанет вносить какую-либо ясность).

Изучая различные формы и выводы уравнения Прайса, можно прийти ко многим важным инсайтам. Например, итоговое уравнение показывает, что средний признак меняется в соответствии с его ковариацией с относительной приспособленностью, а не с его абсолютной приспособленностью. Это означает, что если ген «Фродо» спасает весь свой вид от вымирания, среднее значение признака «Фродо» не увеличивается, поскольку поступок Фродо принес пользу всем генотипам в равной степени и не коварировал с относительной приспособленностью.

Говорят, что Прайс был настолько потрясен выводами своего