Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан

колебания перед созданием сверхинтеллектуального агента, стремящегося к знаниям. Такая жажда опыта может привести к присвоению огромных ресурсов. Но, по крайней мере, он устойчив к самым очевидным ловушкам. «Если его удастся запрограммировать, думаю, он продемонстрирует удивительное поведение, – говорит Орсо. – Он будет пытаться как можно быстрее разобраться в окружающей обстановке. По сути, это совершенный ученый. Он будет ставить эксперименты, чтобы понять происходящее… Мне действительно любопытно увидеть, как он будет себя вести».

Идея и этика интеллекта, руководствующегося по большей части (или исключительно) любопытством, не нова. Ее появление предсказали не в прошлом десятилетии, а в прошлом тысячелетии. В знаменитом диалоге Платона «Протагор» Сократ размышляет об этом и дает точное определение.

«Знание прекрасно и способно управлять человеком, так что того, кто познал хорошее и плохое, ничто уже не заставит поступать иначе, чем велит знание, и разум достаточно силен, чтобы помочь человеку» [536].

Часть 3

Нормативность

7. Имитация

Мне было шесть лет, когда родители сказали, что внутри моего черепа есть маленький темный драгоценный камень, который учится быть мной.

Грег Иган [537]

Смотри, как я могу!

Илон Маск Питеру Тилю сразу же перед тем, как потерять управление и разбить свой незастрахованный автомобиль MCLAREN F1 стоимостью миллион долларов [538]

Когда кто‐то кому‐то подражает, мы говорим, что он «обезьянничает» (по-английски to ape). Мы в этом не одиноки: эта лингвистическая особенность снова и снова появляется в разных языках и культурах. Итальянское scimmiottare, французское singer, португальское macaquear, немецкое nachäffen, болгарское majmuna, русское обезьянничать, венгерское majmol, польское małpować, эстонское ahvima – все это глаголы, означающие имитацию и подражание, этимологически связаны с приматами [539].

Репутация обезьян как прекрасных имитаторов закрепилась не только в языке, но и в науке более полутора веков назад. В 1882 году биолог XIX века и друг Чарльза Дарвина Джордж-Джон Роменс писал о том, что Дарвин называл «принципом имитации»:

«Общеизвестно, что обезьяны довели этот принцип до смешного. Они являются единственными животными, которые имитируют из страсти к подражанию… хотя, возможно, стоит сделать исключение для говорящих птиц» [540].

Эта особенность действительно вошла в поговорки удивительно большого числа культур. И по иронии судьбы, истиной она не является.

Специалисты по приматам Элизабетта Висалберги и Дороти Фрагази, задавшись вопросом «Подражают ли обезьяны?», непредвзято изучили факты. Проведя обзор литературы и собственные эксперименты, они были вынуждены прийти к выводу, что «в подавляющем большинстве имитация у обезьян отсутствует». «Отсутствие подражания у обезьян, – писали исследовательницы, – очевидно, если рассматривать как их поведение при использовании инструментов, так и произвольное поведение, например позы, жесты или решение проблем» [541].

Последовавшая за этим работа специалиста по сравнительной психологии Майкла Томаселло задает тот же вопрос о наших родственниках-приматах – «Обезьянничают ли обезьяны?» – и приходит к такому же выводу, хотя и признает возможное исключение для ближайших генетических родственников человека – шимпанзе. (То, до какой степени шимпанзе склонны к имитации в дикой природе и каких высот достигают при дрессировке, остается вопросом дискуссионным.) «Мой ответ на более общий вопрос о том, обезьянничают ли обезьяны, – говорит Томаселло, – будет положительным, но только тогда, когда люди явно или неявно обучают их этому (и даже в этих случаях, возможно, не до конца)» [542]. Так что репутация приматов как имитаторов совершенно незаслуженна.

Но среди них есть один вид, который можно назвать естественным, активным и поразительным подражателем, инстинктивно склонным к имитации.

Это мы, люди.

В 1930 году психолог Уинтроп Келлог из Университета Индианы и его жена Люэлла в течение девяти месяцев растили своего маленького сына Дональда вместе с детенышем шимпанзе по имени Гуа. Относились к ним одинаково, как к детям в одной семье. В книге «Обезьяна и ребенок», которую супруги написали об эксперименте, они отмечают, что «из-за репутации шимпанзе как отличного имитатора наблюдатели с самого начала ожидают именно такого поведения. Но, каким бы странным это ни казалось, подражание у Гуа проявлялось в гораздо в меньшей степени, чем у мальчика».

Дональд и в самом деле был активным и успешным имитатором, подражая как родителям, так и своей «сестре». В 17 месяцев он поразил отца, разгуливая из стороны в сторону, заложив руки за спину, – вылитый Уинтроп в минуты глубоких размышлений. Однако куда чаще Дональд имитировал Гуа, свою ровесницу и товарища по играм. Хотя к моменту появления шимпанзе Дональд уже умел ходить и в младенчестве почти не ползал, он начал повторять за Гуа и передвигаться на четвереньках. Увидев фрукт, Дональд научился ухать и подражать обезьяньему крику. Несколько обеспокоенные родители вскоре прервали эксперимент [543].

Доказательств того, что именно люди являются идеальными естественными подражателями, становилось все больше. Например, если показать язык младенцу, которому нет и часа от роду, он покажет язык в ответ [544]. Это достижение особенно поражает, учитывая, что младенец еще не видел своего лица (как говорит Элисон Гопник, «в матке зеркал нет» [545]). Так что подражание здесь кроссмодальное: дети имитируют то, как вы выглядите, высовывая язык, опираясь на то, что ощущают, делая это сами. И все это – в первые 40 минут жизни.

Эту потрясающую способность в 1977 году открыл Эндрю Мелцофф из университета Вашингтона. Его находка перевернула психологические представления целого поколения. Легендарный швейцарский психолог Жан Пиаже (влияние которого в XX веке уступало только Фрейду [546]) в 1937 году писал, что «ребенок на ранних стадиях развития воспринимает мир как солипсист… Но шаг за шагом, по мере координации работы его интеллектуальных инструментов, он занимает свое место в устойчивом мире и рассматривается как активный субъект среди других активных субъектов» [547].

Мелцофф, признавая все заслуги великого швейцарца, считает, что в данном случае дело обстоит ровно наоборот. «Мы должны пересмотреть наше представление о раннем детстве, – говорит он. – Распознавание идентичности себя и другого – это не результат, а основа социального познания» [548]. Подражание, по его словам, – это «начальная точка психологического развития в раннем возрасте, а не его кульминация» [549].

Склонность к имитации проявляется почти сразу после рождения, но это далеко не просто рефлекс. Она показывает удивительный уровень сложности в выборе того, кого, что и когда имитируют дети. Мы начали понимать это лишь в последние пару десятков лет.

Например, малыши будут подражать действиям взрослых, только если те делают что‐то интересное, а не то, что кажется бесполезным [550]. Также у маленьких детей, возможно, есть особое чувство того, что на свете существуют другие люди, которые заставляют вещи работать: они не будут подражать