Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

лисиц — очевидное решение, которое сразу приходит нам в голову), пока экология не стала бы выглядеть мило и аккуратно. У Природы, конечно, нет человека, но это не должно нас останавливать: теперь, когда мы знаем, чего мы хотим из эстетических соображений, нам нужно лишь придумать правдоподобный аргумент, который убедит Природу захотеть того же по соображениям эволюционным.

Очевидно, что отбор на индивидуальном уровне не приведет к индивидуальному сдерживанию в размножении. Особи, размножающиеся без удержу, естественным образом оставят больше потомства, чем особи, которые себя ограничивают.

(Индивидуальный отбор не приведет к индивидуальному отказу от возможностей размножения. Индивидуальный отбор, безусловно, может породить особей, которые, завладев всеми доступными ресурсами, используют их для производства четырех крупных яиц вместо восьми мелких — не ради сбережения общественных ресурсов, а потому, что это индивидуальный оптимум для значения (количество яиц) × (вероятность выживания яйца). Это не решает проблему общих ресурсов.)

Но предположим, что популяция вида была разделена на субпопуляции, которые были по большей части изолированы и лишь изредка скрещивались друг с другом. Тогда, несомненно, субпопуляции, которые ограничивали свое размножение, имели бы меньше шансов вымереть, отправляли бы больше посланников и создавали новые колонии для повторного заселения территорий погибших популяций.

Проблема этого сценария заключалась не в том, что он был математически невозможен. Проблема была в том, что он был возможен, но крайне трудноосуществим.

Фундаментальная проблема в том, что плодами сдержанности в размножении пользуются не только те особи, которые ограничивают себя. Если часть лисиц воздерживается от рождения лисят, поедающих кроликов, то оставшиеся в живых кролики достанутся не только тем лисятам, которые несут в себе адаптацию к ограничению размножения. Лисы, не ограничивающие себя, и их гораздо более многочисленное потомство с удовольствием съедят всех кроликов, на которых не велась охота. Единственный способ для гена самоограничения выжить под таким давлением — это если выгоды от самоограничения будут преимущественно доставаться тем, кто сам себя ограничивает.

Конкретно, требование выглядит как C∕B < FST, где C — это издержки альтруизма для донора, B — выгода от альтруизма для реципиента, а FST — пространственная структура популяции: среднее родство между случайно выбранным организмом и его случайно выбранным соседом, где под «соседом» понимается любая другая лисица, которая получает выгоду от самоограничения лисицы-альтруистки.1

Так достаточно ли малы издержки ограничения размножения и достаточно ли велика эмпирическая выгода от сокращения голода по сравнению с эмпирической пространственной структурой популяций лисиц и кроликов, чтобы аргумент в пользу группового отбора сработал?

Математика подсказывает, что это крайне маловероятно. В этой симуляции, например, издержки для альтруистов составляет 3% приспособленности, группы чистых альтруистов имеют приспособленность вдвое выше, чем группы чистых эгоистов, размер субпопуляции равен 25, а 20% всех умерших замещаются посланниками из другой группы: в результате получается полиморфизм по эгоизму и альтруизму. Если увеличить размер субпопуляции вдвое, до 50, эгоизм фиксируется; если увеличить издержки для альтруистов до 6%, эгоизм фиксируется; если снизить альтруистическую выгоду вдвое, эгоизм фиксируется или оказывается в подавляющем большинстве. Локальные группы должны быть очень маленькими, насчитывая всего около 5 особей, чтобы групповой отбор работал, когда издержки альтруизма превышает 10%. Вряд ли это похоже на правду для лисиц, ограничивающих свое размножение.

Полагаю, вы уже догадались, что сторонники группового отбора в конечном счете проиграли этот научный спор. Решающим аргументом был даже не математический расчет, а эмпирическое наблюдение: лисицы не ограничивали свое размножение (я не помню, о каком именно виде спорили; это были не лисы и кролики), и действительно, системы «хищник — жертва» постоянно рушатся. Позднее групповой селекционизм в некоторой степени возродился, но в кардинально иной форме: с математической точки зрения пространственная структура («соседство») существует, что подразумевает ненулевое давление группового отбора, которое не обязательно способно преодолеть противодействующее давление индивидуального отбора, но если его не учитывать, ваши расчеты будут неверными, и точка. А эволюционировавшие механизмы принуждения (изначально не предполагавшиеся) и вовсе меняют правила игры. Так почему же этот исторический научный спор достоин обсуждения на Overcoming Bias?

Через десять лет после этой дискуссии одному биологу пришла в голову потрясающая идея. Математические условия, при которых групповой отбор превосходит индивидуальный, были слишком экстремальными, чтобы встретиться в природе. Почему бы не создать их искусственно, в лаборатории? Майкл Дж. Уэйд именно это и сделал, многократно отбирая популяции насекомых по признаку малого числа взрослых особей в субпопуляции.2 И каков же был результат? Стали ли насекомые сдерживать свое размножение и жить в тихом мире, имея достаточно еды на всех?

Нет; взрослые особи приспособились пожирать яйца и личинок, особенно личинок женского пола.

Разумеется, отбор по признаку малого размера субпопуляций не привел бы к отбору особей, которые ограничивали собственное размножение; он привел бы к отбору тех особей, которые пожирали чужих детенышей. Особенно девочек.

Как только вы получаете этот экспериментальный результат — а задним числом он кажется совершенно очевидным, — сразу становится понятно, как первые сторонники группового отбора позволили романтизму, человеческому чувству эстетики, затуманить свои прогнозы относительно Природы.

Это архетипический пример упущенной Третьей альтернативы, возникший в результате рационализации заранее определенного вывода, которая породила ложное оправдание, после чего мотивированно остановилась. Сторонники группового отбора не приступали к задаче со свежей головой и чистым разумом, чтобы затем, случайно наткнувшись на идею группового отбора, непредвзято спрогнозировать вероятный исход. Они начали с красивой идеи о том, как популяции лисиц добровольно ограничивают свое размножение пределами, которые может выдержать популяция кроликов (Природа в идеальной гармонии); затем они стали искать причину, почему так должно происходить, и пришли к идее группового отбора; а затем, поскольку они знали, какого результата группового отбора им хотелось, они не стали искать менее красивые и эстетичные адаптации, которым групповой отбор на самом деле способствовал бы с гораздо большей вероятностью. Если бы они действительно пытались спокойно и непредвзято предсказать результат отбора на малый размер субпопуляций для устойчивости к голоду, они бы додумались до пожирания чужих детей или какого-то подобного «уродливого» исхода — задолго до того, как вообразили бы нечто столь эволюционно диковинное, как индивидуальное сдерживание размножения!

Это также иллюстрирует мысль, которую я пытался донести в эссе «Высокомерие Эйнштейна»: при огромном пространстве возможных ответов практически вся реальная работа уходит на то, чтобы выделить один возможный ответ и обратить на него внимание. Если гипотеза необоснованно привлекает ваше внимание — ваше чувство эстетики подсказывает прекрасный образ того, какой должна быть Природа, а естественный отбор при этом не предусматривает никакой Эволюционной Феи, разделяющей ваши вкусы, —