Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

выглядит. Его нейронные контуры, распознающие чистую кожу, знают о том, что их цель — выявление фертильности, не больше, чем атомы его руки содержат крошечные XML-теги с надписью «<цель>поднимать вещи</цель>». Женщину привлекает его уверенная улыбка и решительные манеры — признаки высокого статуса, которые в среде предков означали бы способность обеспечивать ресурсами детей. Она планирует использовать контрацепцию, но её детекторы уверенной улыбки знают об этом не больше, чем тостер знает, что его создатель предназначил его для приготовления тостов. Её не волнует философский смысл этого бунта, поскольку её мозг — креационист и яростно отрицает само существование эволюции. Его философский смысл этого бунта тоже не волнует, потому что он просто хочет переспать. Они идут в отель и раздеваются. Он надевает презерватив, потому что не хочет детей, а хочет лишь дофаминово-норадреналинового прилива от секса — прилива, который безотказно приводил к появлению потомства 50 000 лет назад, когда неизменной чертой среды предков было отсутствие презервативов. Они занимаются сексом, принимают душ и расходятся. Главное объективное последствие состоит в том, что бар, отель и производитель презервативов продолжают работать; это не было когнитивной целью в их умах и не имеет практически никакого отношения к ключевым статистическим закономерностям воспроизводства 50 000 лет назад, которые объясняют, откуда у них взялись гены, построившие их мозг, который и реализовал всё это поведение.

Чтобы правильно рассуждать об эволюционной психологии, вы должны одновременно удерживать в голове множество сложных абстрактных фактов, тесно связанных, но принципиально различных, не допуская ни малейшей путаницы или смешения понятий.

*

140. Исключительно элегантный эволюционно-психологический эксперимент.

В канадском исследовании 1989 года взрослых просили представить смерть детей разного возраста и оценить, какая из потерь вызовет у родителя сильнейшее чувство утраты. Результаты, нанесенные на график, показывают, что сила горя нарастает почти до подросткового возраста, а затем начинает снижаться. Когда эту кривую сопоставили с кривой изменения репродуктивного потенциала в течение жизненного цикла (закономерность, рассчитанная по демографическим данным Канады), корреляция оказалась довольно сильной. Но гораздо более сильной — фактически почти идеальной — была корреляция между кривой горя этих современных канадцев и кривой репродуктивного потенциала племени охотников-собирателей !кунг из Африки. Иными словами, динамика изменения силы горя оказалась почти в точности такой, какую предсказал бы дарвинист, исходя из демографических реалий в среде наших предков.

— Роберт Райт, «Моральное животное»,

в изложении Кроуфорда и др.1

Первая корреляция составила 0,64, вторая — исключительно высокие 0,92 (N = 221).

Самая очевидная неэлегантность этого исследования в описанном виде заключается в том, что его проводили, предлагая взрослым людям вообразить родительское горе, а не опрашивая реальных родителей детей определенного возраста. (Вероятно, это стоило бы дороже или позволило бы привлечь меньше испытуемых.) Тем не менее, насколько мне известно, результаты здесь хорошо согласуются с данными более детальных исследований родительского горя, в которых искали другие корреляции (то есть прямую корреляцию между родительским горем и возрастом ребенка).

Тем не менее, давайте рассмотрим некоторые элегантные аспекты этого эксперимента:

Корреляция 0,92 (!). Это может показаться подозрительно высоким показателем — неужели эволюция действительно способна на столь точную тонкую настройку? — пока вы не поймете, что это давление отбора было не просто достаточно сильным, чтобы тонко настроить родительское горе, но, собственно говоря, высечь его из небытия с самого начала.

Люди, заявляющие, будто эволюционная психология не сделала никаких априорных предсказаний, по иронии судьбы оказываются просто жертвами синдрома «никто не знает того, чего не знает наука». Без эволюционной психологии вы бы даже не подумали о проведении такого эксперимента.

Этот эксперимент иллюстрирует — столь же красиво и чисто, как никакой другой из всех, что я видел, — различие между сознательным или подсознательным скрытым мотивом и работающей адаптацией, которая в реальном времени никак не реагирует на породившее её давление отбора.

Родительское горе даже на подсознательном уровне не связано с репродуктивной ценностью — иначе оно корректировалось бы под канадские показатели репродуктивной ценности, а не под показатели племени !кунг. Горе — это адаптация, которая теперь просто существует, будучи реальной в нашем разуме и продолжая действовать по собственной инерции.

Родители не заботятся о детях ради их репродуктивного вклада. Родители заботятся о детях ради них самих; а некогнитивная, эволюционно-историческая причина, по которой подобные разумы вообще существуют во Вселенной, заключается в том, что дети несут в себе гены своих родителей.

И действительно, эволюция — это причина, по которой во Вселенной вообще существуют хоть какие-то разумы. Так что понятно, почему я хочу провести четкую границу для своего цинизма в отношении скрытых мотивов на эволюционно-когнитивной границе; иначе я с тем же успехом мог бы встать в очередь на кассу в супермаркете и заявить: «Эй! Вы правильно обрабатываете зрительную информацию, складывая мои продукты в пакет, только для того, чтобы максимизировать свою совокупную приспособленность!»

1. Думаю, 0,92 — это самая высокая корреляция, которую я когда-либо видел в эволюционно-психологических экспериментах, да и вообще одна из самых высоких, что я встречал в психологических экспериментах в целом. (Хотя я видел, например, сообщения о корреляции в 0,98, когда одну группу испытуемых спрашивали: «Насколько А похоже на Б?», а другую — «Какова вероятность А при условии Б?» применительно к вопросам вроде: «Какова вероятность вытащить 60 красных шаров и 40 белых шаров из бочки с 800 красными и 200 белыми шарами?» — иными словами, эти вопросы просто обрабатывались мозгом как один и тот же).

Поскольку все мы здесь байесовцы, мы можем учесть наши априорные убеждения и спросить себя: не объясняется ли хотя бы часть этой неожиданно высокой корреляции простым везением? Эволюционную тонкую настройку мы, пожалуй, можем принять как данность — все-таки речь идет о колоссальном давлении отбора. Оставшимися источниками подозрительно низкой дисперсии являются: (а) способна ли большая группа взрослых в среднем правильно представить относительную степень родительского горя (по всей видимости, способна) и (б) являются ли сохранившиеся !кунг типичными первобытными охотниками-собирателями в этом отношении, или же различия между племенами охотников-собирателей должны были быть слишком велики, чтобы допустить корреляцию 0,92.

Но даже с учетом любых скептических априорных убеждений, корреляция 0,92 при N = 221 — это довольно сильное свидетельство, и наши апостериорные убеждения по всем этим пунктам должны стать менее скептическими.

2. Вы можете счесть неэлегантным то, что эксперимент проводился проспективно, на воображаемом горе, а не ретроспективно, на реальном. Но именно проспективно