Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан

повышенной сложности, были и свои преимущества. Например, во время поездок по Массачусетсу, чтобы согреть цыплят по пути в Кембридж, Торндайку часто приходилось останавливаться в доме друзей семьи по фамилии Мултон. Возможно, это была чисто научная необходимость, но из писем ученого становится понятно, что во многом к этим визитам его подталкивало желание пофлиртовать с молодой дочерью хозяина дома по имени Бесс. Позднее она стала женой Эдварда.

В конце концов домохозяйка Торндайка в Кембридже объявила инкубатор пожароопасным и поставила ему ультиматум: от цыплят необходимо избавиться. Джеймс пытался выбить лабораторию в кампусе Гарварда, но университет не испытывал по этому поводу особого энтузиазма. Поскольку другого выхода не оставалось, Джеймс, несмотря на протесты жены, позволил Торндайку перевезти цыплят, инкубатор и все остальное в подвал своего собственного дома. (По крайней мере, дети Джеймса были в восторге.)

В 1897 году Торндайк выпустился из Гарварда и переехал в Нью-Йорк, получив стипендию аспиранта в Колумбийском университете. На этот раз он работал с разными видами животных. Год выдался не слишком удачный. Две кошки сбежали, собак достать не удалось, а «обезьяна была такой дикой, что я боялся к ней прикоснуться». В довершение бед не все животные в городском зверинце Торндайка были предназначены для научных опытов, некоторые были просто домашними вредителями. В письме к Бесс от 14 февраля 1898 года он пишет: «Только что по моей ноге пробежала мышь. Крысы грызут комод, три цыпленка спят в полуметре от меня; пол комнаты завален табаком, сигаретными бычками, газетами, книгами, углем, куриными перьями, мисками для кошачьего молока и старыми ботинками. Керосинка и метла здесь выглядят не на своем месте. Моя квартира – заброшенная дыра». Как бы то ни было, он обещал убраться и на День Святого Валентина пригласил жену нанести ему визит.

Из всей этой нищеты и убожества родилось одно из самых оригинальных и значительных исследований XIX века. Торндайк сделал несколько удерживающих устройств, которые называл «проблемным ящиком». Они были снабжены различного рода защелками, ручками и застежками. Исследователь помещал животное в клетку, снаружи раскладывал разнообразную подкормку и наблюдал, как цыпленок, кошка или собака будут выбираться из ловушки. «Тебе бы понравилось смотреть, как котята открывают щеколды и двери, тянут шнуры, выпрашивают еду, словно собачки, и делают разные другие трюки, – писал Торндайк Бесс. – Я же в это время жую яблоки и курю».

Торндайк интересовался обучением, и в его голове зрела теория. Жуя яблоки и куря сигареты, Торндайк наблюдал, что животное, понятие не имевшее, как устроен ящик, сначала действовало исключительно случайным образом: что‐то кусало, что‐то скребло. Когда же рандомные действия позволяли ему высвободиться из ящика, оно очень быстро учился повторять их и в будущем выбирался из того же ящика все быстрее и быстрее. «Один из множества случайных импульсов ведет к удовольствию, – сделал он вывод, – и он набирает силу и таким образом запечатлевается» [305].

В этом Торндайк увидел проявление более крупного, более общего закона природы. Как он выразился, результаты наших действий ведут либо к удовлетворению, либо к раздражению. Когда речь об удовлетворении, мы склонны повторять. С другой стороны, когда возникает раздражение, мы стараемся его избегать. Чем понятнее связь между действием и результатом, тем сильнее изменения. Торндайк назвал эту идею – возможно, самую известную и долговременную в его работе – «законом эффекта».

Он пишет:

«Закон эффекта: когда устанавливается доступная для изменения связь между ситуацией и реакцией и когда она сопровождается удовлетворением, эта связь крепнет. Если она сопровождается раздражением, связь ослабевает. Усиливающий эффект удовлетворения (или ослабляющий эффект раздражения), действующий на связь, зависит от близости между ситуацией и связью» [306].

На этой на первый взгляд скромной и очевидной идее была построена бо́льшая часть психологии ХХ века [307]. В 1927 году статья «Условные рефлексы» И. П. Павлова появилась на английском языке в переводе его ученика Глеба фон Анрепа, который использовал слово «подкрепление», чтобы описать этот эффект. К 1933‐му Торндайк сам использовал этот термин, как и молодой научный сотрудник Гарварда по имени Беррес Фредерик Скиннер (с ним мы более подробно познакомимся в главе 5) [308]. Язык «подкрепления», а также идея использовать животных, чтобы понять механизмы обучения методом проб и ошибок и, таким образом, человеческое сознание, создали систему координат, в которой психологи работали несколько следующих десятилетий.

Как писал один из ведущих психологов следующего поколения Эдвард Толман, «психология обучения животных, не говоря уж о психологии обучения детей, по-прежнему сводится к тому, соглашается или не соглашается исследователь с Торндайком» [309].

Если Торндайк в конце концов и принял свое место в психологических канонах, то относился он к нему необычно скромно. Когда его учебник «Принципы обучения» вышел в свет в 1905 году, книга угрожала сдвинуть с привычного места предыдущий основной учебник «Психология: краткий курс», написанный никем иным как научным руководителем Торндайка Уильямом Джеймсом. Торндайк отправил своему наставнику чек на сотню долларов, чтобы компенсировать недополученную прибыль. Джеймс ответил: «Торндайк, вы действительно не подчиняетесь законам природы. Если первый ее закон говорит о том, что соперников надо уничтожить (особенно соперников в области выпуска учебников), то вы их подкармливаете!» Джеймс отказался принять чек и вернул его обратно [310]. Можно сказать, эстафета была передана, психология ХХ века была на подходе.

Цифровые пробы и ошибки

Какая сила действует через некие процессы и механизмы, делая положительную реакцию именно таковой? Ответ, который, как мне кажется, подходит ко всем или почти всем фактам, – это… сила и механизм подкрепления, примененного к связи.

Эдвард Торндайк [311]

Если бы исследователи животных вслед за Торндайком заинтересовались бы психологией человеческих детей, они не были бы в этом одиноки: самые первые специалисты по информатике делали то же самое. Самая известная статья Алана Тьюринга «Вычислительные машины и разум», вышедшая в 1950 году, недвусмысленно описывает проект искусственного интеллекта в таком контексте. «Вместо того чтобы создавать программу, симулирующую разум взрослого человека, – писал автор, – почему бы не попытаться создать программу, симулирующую сознание ребенка? Если это творение затем пройдет соответствующий курс обучения, в итоге получится взрослый мозг». Тьюринг представлял сознание этих эрзац-детей как «неорганизованную машину», порожденную случайной конфигурацией, которая затем изменяется в зависимости от качества результатов (изначально случайных) действий.

Тогда и был определен план развития искусственного интеллекта. «Неорганизованные машины» должны были заимствоваться из того, что тогда подразумевалось под нервной системой, а «курс обучения» – из открытий, сделанных бихевиористами в отношении обучения животных (и детей). К началу 1940‐х Уоррен Маккаллок и Уолтер Питс доказали, что большая система правильно соединенных искусственных «нейронов» способна вычислить буквально что угодно. Тьюринг начал искать способы, с помощью которых эту нейронную сеть