Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан

действию, если им кажется, что объект движется сам по себе или его передвигает механическая рука [551]. (Это наводит на интересные размышления о перспективах роботизированных нянь и учителей.)

Также вполне вероятно, что младенцы прекрасно осознают, когда имитируют их. В фильме 1933 года «Утиный суп» с братьями Маркс есть знаменитая сцена: Харпо притворяется отражением Граучо в зеркале и копирует каждое его движение. Мелцофф провел подобный эксперимент: взрослые либо имитировали движения младенцев, либо выполняли серию заранее запланированных действий. Как и Граучо, дети придумывали сложные или необычные движения, чтобы проверить, действительно ли взрослый им подражает [552].

Для Мелцоффа эта глубоко укоренившаяся способность узнавать себя в соотношении с другими, которых мы считаем подобными себе, – начало не только психологического развития. Как он говорит, это «базовое, зачаточное основание для развития социальных норм, ценностей, этики, эмпатии… Это подражание движениям тела, словно Большой взрыв, становится началом всего» [553].

Чрезмерное подражание

Представьте, что вы учите кого‐то нарезать луковицу и говорите: «А теперь попробуй сделать так же». Затем вы покашливаете и начинаете резать. Ваш ученик внимательно наблюдает и, прежде чем взять нож, тоже покашливает, ожидая вашего одобрения. Он не просто подражает вам, он подражает чрезмерно, копируя даже те действия, которые не имеют отношения к задаче и не влияют на результат [554].

Исследователи, изучавшие имитационное поведение у людей и шимпанзе, с удивлением обнаружили, что такое чрезмерное подражание чаще встречается у людей, чем у обезьян. Это кажется нелогичным: почему шимпанзе лучше понимают, какие действия важны для результата, и воспроизводят только их?

В одном из самых показательных исследований использовалась пластиковая коробка с двумя закрытыми отверстиями: сверху и спереди. Экспериментатор сначала открывал верхнее отверстие, потом переднее, а затем засовывал руку в переднее и доставал лакомство. Когда шимпанзе показывали это на непрозрачной черной коробке, они послушно повторяли оба действия в том же порядке. Но когда коробка была прозрачной, обезьяны видели, что открывание верхнего отверстия никак не помогает достать еду. В этом случае они сразу открывали переднее отверстие, полностью игнорируя верхнее. Трехлетние дети, напротив, повторяли ненужный первый шаг, даже если видели, что он бесполезен [555].

Ученые предположили, что дети просто медленнее усваивают нужное действие. Они повторили эксперимент с пятилетками. Стало только хуже! Старшие дети были склонны к еще большему чрезмерному подражанию [556]. В этом не было никакого смысла. Что же происходило?

Загадка становилась все страннее. Исследователи подумали, что дети копируют лишние движения ради одобрения взрослого. Но даже когда экспериментатор выходил из комнаты, дети продолжали делать то же самое. Тогда ученые спросили детей (и трехлетних, и пятилетних), могут ли они отличить действия, которые «нужно делать», от «глупых и ненужных». Дети ответили утвердительно! Но даже показав, что понимают разницу, они по-прежнему воспроизводили оба действия [557].

Наконец экспериментаторы попросили детей не делать ничего «глупого и лишнего». И это не помогло. Дети соглашались с инструкцией, но подражали чрезмерно.

Это выглядело парадоксально: по мере развития и роста когнитивных способностей дети демонстрировали меньше контроля над бессмысленным подражанием [558].

Ключ к разгадке нашелся в исследовании 14‐месячных малышей, проведенном венгерским психологом Дьердем Гергеем. Дети видели взрослого, сидящего за столом. Он наклонялся и касался лбом лампочки, отчего та загоралась. Но здесь была хитрость. В половине случаев руки взрослого лежали на столе. В другой половине он притворялся, что мерзнет, и придерживал руками одеяло. Те малыши, которые видели руки взрослого свободными, в точности повторяли действие: наклонялись и касались лампочки головой. Но те, кто видел, что руки заняты одеялом, просто включали лампочку рукой [559].

Здесь явно крылось что‐то важное. Дети чуть старше года уже могли оценить, действует ли взрослый странно по своему желанию или из необходимости. Их логика была такова: «Если взрослый наклоняется и касается лампочки головой, хотя его руки свободны, значит, для этого должна быть причина!» Если действие выглядело намеренным, дети копировали его в точности. Это позволило увидеть проблему чрезмерного подражания в новом свете. В действиях детей не было ничего бессмысленного и механического. Наоборот – они делали обоснованный, разумный вывод, полагая, что взрослый поступает рационально, и старались повторить его действия максимально точно.

Неожиданно стало понятно, почему такое поведение усиливается с возрастом. По мере накопления опыта дети учатся моделировать сознание других людей. В случае с прозрачной коробкой они видят, что открывание верхней крышки бесполезно. Но они понимают, что взрослый тоже это видит! Если он видит бесполезность действия, но все равно его совершает, значит, на то есть причина. А раз мы не можем понять причину, лучше просто повторить за ним.

У шимпанзе, напротив, нет модели человеческого разума. Их логика проще: «Человек глуп и действует неэффективно. Я вижу лучший путь к еде и воспользуюсь им».

Так разрешился кажущийся парадокс. В странном искусственном сценарии эксперимента шимпанзе действовали верно. Но чрезмерно подражающий ребенок был когнитивно более развит: он опирался на более глубокое понимание ситуации. В реальной жизни взрослые (если они не экспериментаторы) редко совершают бессмысленные действия, понимая, как поступить лучше. Ребенок выглядел глупо, делая лишние движения, но лишь потому, что взрослые вводили его в заблуждение или были неискренни. Пусть им будет стыдно!

Поздние работы подтвердили тонкость этих механизмов. Дети с раннего возраста очень чувствительны к тому, пытается ли взрослый их научить или просто экспериментирует. Когда взрослый выступает как учитель («Я сейчас покажу тебе, как это работает»), дети доверчиво повторяют даже ненужные действия. Но если взрослый говорит: «Я сам еще не играл в эту игру», ребенок будет повторять только полезные действия и игнорировать «глупые» [560]. Снова оказалось, что чрезмерное подражание – это не иррациональность или лень, а результат сложного (хоть и ошибочного в данном случае) анализа намерений учителя.

Все это свидетельствует об огромном когнитивном опыте, скрытым за тем, что кажется простым подражанием. Мы по-новому взглянули на умственные способности детей и осознали, насколько сложна вычислительная задача, стоящая перед машинным обучением, когда мы просто говорим системе: «Смотри и повторяй».

Имитационное обучение

Если мы, люди, являемся уникальными существами, предрасположенными к подражанию, возникает закономерный вопрос: почему? Что делает имитацию таким мощным инструментом обучения? Оказывается, у имитационного обучения есть как минимум три преимущества перед методом проб и ошибок или прямыми инструкциями.

Мы уже видели, как исследователи машинного обучения заимствовали из психологии такие концепции, как формирование навыков и внутренняя мотивация. Подражание оказалось не менее богатым источником вдохновения; по сути, оно легло в основу успеха множества ИИ-проектов в ХХ и XXI веках.