Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

жив достаточно долго для передачи болезни. Это хороший реальный пример группового отбора, и если вирус эволюционирует в точку на ландшафте приспособленности, где давление группового отбора не способно преодолеть индивидуальное давление, вирус может вскоре после этого исчезнуть. Не знаю, заставали ли когда-нибудь какую-либо болезнь с поличным в процессе эволюции к вымиранию, но это наверняка происходило бесчисленное множество раз.

Дистортеры сегрегации подрывают механизмы, которые обычно гарантируют справедливость полового размножения. Например, у некоторых мышей в мужской половой хромосоме есть дистортер сегрегации, из-за которого на свет рождается только потомство мужского пола, несущее этот исказитель. Затем эти самцы оплодотворяют самок, которые рожают тоже только самцов, и так далее. Вы можете воскликнуть: «Это жульничество!», но это лишь человеческий взгляд; репродуктивная приспособленность этого аллеля чрезвычайно высока, поскольку в следующем поколении он производит вдвое больше собственных копий, чем его немутантная альтернатива. Даже по мере того, как самок становится все меньше и меньше, самцы, несущие этот ген, имеют не меньше шансов на спаривание, чем любые другие самцы, и поэтому дистортер сегрегации остается вдвое более приспособленным, чем альтернативный аллель. Предполагается, что в реальном мире групповой отбор мог сыграть роль в том, чтобы удерживать частоту этого гена на наблюдаемом сегодня низком уровне. В таком случае, если бы у мышей развилась способность летать и мигрировать на зиму, они, вероятно, образовали бы единую репродуктивную популяцию и эволюционировали бы до полного вымирания по мере фиксации дистортера сегрегации.

Около 50% всего генома кукурузы состоит из транспозонов — элементов ДНК, основная функция которых состоит в копировании себя в другие участки ДНК. Класс транспозонов под названием «P-элементы», по всей видимости, впервые появился у дрозофил только в середине двадцатого века и в течение 50 лет распространился на все популяции этого вида. «Alu-последовательность» у людей — транспозон длиной в 300 оснований — повторяется в человеческом геноме от 300 000 до миллиона раз. Это может и не уничтожить вид, но уж точно не помогает ему; транспозоны вызывают дополнительные мутации, которые, как обычно, в большинстве своем вредны, и снижают эффективную точность копирования ДНК. И всё же такие обманщики обладают чрезвычайно высокой приспособленностью.

Представьте, что у какого-то вида с половым размножением возникает идеальный механизм копирования ДНК. Поскольку большинство мутаций вредны, этот генный комплекс дает преимущество своим носителям. Теперь вы можете спросить о полезных мутациях — они ведь изредка случаются, так не окажутся ли немутирующие организмы в невыгодном положении? Но у вида с половым размножением полезная мутация, возникшая у мутирующего организма, может распространиться и на потомков немутирующих. При этом мутирующие страдают от вредных мутаций в каждом поколении, а немутирующие могут половым путем приобретать любые полезные мутации, возникающие у мутирующих, и получать от них выгоду. Таким образом, мутирующие оказываются в чистом проигрыше. Частота идеального механизма копирования ДНК возрастает до полной фиксации. Десять тысяч лет спустя наступает ледниковый период, и вид прекращает свое существование. Он эволюционировал до вымирания.

«Эффект стороннего наблюдателя» заключается в том, что, когда кто-то попадает в беду, одиночные свидетели вмешиваются охотнее, чем группы. Студенту колледжа, у которого, судя по всему, случился эпилептический припадок, одиночный свидетель помогал в 85% случаев, а группа из пяти свидетелей — лишь в 31% случаев. Я предполагаю, что даже если родственные связи в племени охотников-собирателей были достаточно сильны, чтобы создать давление отбора в пользу помощи людям, не являющимся близкими родственниками, то при наличии нескольких потенциальных помощников могла начаться генетическая гонка вооружений за то, чтобы оказаться последним, кто сделает шаг вперед. Каждый медлит в надежде, что это сделает кто-то другой. Сейчас человечество стоит перед лицом множества угроз вымирания на уровне вида, и, должен вам сказать, не так уж много людей спешат сделать шаг вперед. Если мы проиграем эту битву из-за того, что на поле боя практически никто не явился, то — подобно, вероятно, огромному числу видов, которых мы сегодня не наблюдаем вокруг, — мы просто эволюционируем до вымирания.

Раковые клетки чувствуют себя в организме отлично: они процветают, накапливают ресурсы и далеко обходят своих более послушных собратьев. Какое-то время.

Многоклеточные организмы могут существовать только потому, что у них выработались мощные внутренние механизмы, позволяющие поставить эволюцию вне закона. Если клетки начинают эволюционировать, они быстро эволюционируют до вымирания: организм погибает.

Так что не превозносите эволюцию за трогательную заботу об отдельной особи; почти все ваши предки мертвы. Не превозносите эволюцию за трогательную заботу о виде; никто еще не находил сложной адаптации, которую можно было бы истолковать исключительно как направленную на сохранение вида, да и математика указывает на то, что это практически невозможно. На самом деле, вид вполне может эволюционировать до вымирания. Возможно, человечество прямо сейчас завершает этот процесс. Эволюцию нельзя превозносить даже за заботу о генах; борьба между двумя альтернативными аллелями в одном локусе — это игра с нулевой суммой за частоту.

Приспособленность — не всегда ваш друг.

*

136. Трагедия группового селекционизма.

До 1966 года серьезные биологи нередко отстаивали эволюционные гипотезы, которые сегодня мы сочли бы магическим мышлением. Эти путаные представления сыграли важную историческую роль в развитии последующей эволюционной теории, когда ошибка порождает исправление — подобно тому, как глупость английских королей вызвала к жизни Великую хартию вольностей и конституционную демократию.

В качестве примера подобной романтики Веро Уинн-Эдвардс, Уордер Элли и Дж. Л. Бреретон, помимо прочих, полагали, что хищники добровольно ограничивают свое размножение, дабы избежать перенаселения своей среды обитания и истощения популяции жертв.

Но эволюция не открывает шлюзы для произвольных целей. Нельзя объяснить трещотку гремучей змеи тем, что она существует на благо других животных, которых иначе бы укусили. Никакая посторонняя Эволюционная Фея не решает, когда ген должен получить преимущество; эффект гена должен каким-то образом напрямую приводить к тому, чтобы этот ген стал более распространенным в следующем поколении. Понятно, почему наше человеческое эстетическое чувство, наблюдая крах популяции лисиц, съевших всех кроликов, взывает: «Надо же было что-то сделать!» Но как комплекс генов, отвечающий за ограничение размножения — подумать только! — заставит себя стать более частым в следующем поколении?

Человек, проектирующий аккуратную маленькую игрушечную экологическую систему — ради развлечения, вроде макета железной дороги, — расстроился бы, если бы его кропотливо созданные популяции лисиц и кроликов самоликвидировались из-за того, что лисы съели всех кроликов, а затем сами умерли от голода. Поэтому человек возился бы с игрушечной экологией (ограничитель размножения