Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан

Сарбин не нашел заметной разницы между двумя прогнозами. Если уж на то пошло, «актуарная» модель была немного более точной. Сарбина считал невероятным, что дополнительная информация, доступная клиническим психологам, никак не повлияла на точность прогнозов. «А как же старание, привычка работать и отдыхать, особые склонности, эмоциональные паттерны, постоянная рассеянность и сотни других факторов, – писал он, – казалось бы, связанных с такой сложной формой социального психологического поведения, как академические достижения? [232]» Как ни иронично, Сарбин узнал, что эксперты не уделяли этому особого внимания и делали прогнозы по тому же рейтингу в классе и оценкам за тест – то есть по тем же данным, что и регрессионная модель. Они просто были не столь последовательны и точны в своих оценках.

Сарбин пришел к выводу, что все время, потраченное на собеседования, ушло совершенно зря. Он предупреждал: «Без подтверждения статистическими исследованиями казуистический метод в социальных науках абсолютно бесполезен».

Находки Сарбина, в свою очередь, привлекли внимание молодого психолога по имени Пол Мил. Вдохновленный брошенным Сарбином вызовом и неуверенный в своей собственной позиции, Мил начал исследование, которое вылилось в целую книгу «Клинический или статистический прогноз» (Clinical versus Statistical Prediction: A Theoretical Analysis and a review of the evidence, 1954). Хотя бо́льшая часть книги (если не вся) была посвящена клиническим оценкам – откуда они берутся и как клинические психологи принимают решения, особое внимание привлекла глава, где Мил сравнивает клинические и актуарные прогнозы. Он обнаружил, что у экспертов нет шансов. Из почти сотни различных областей только в пяти или шести у специалистов, принимающих решения, появлялось хотя бы небольшое преимущество. «Мне говорили, – вспоминает Мил, – что на Среднем Западе половина преподавателей факультета клинической психологии в одном из крупнейших университетов, ориентированном на учение Фрейда, полгода страдала от реактивной депрессии после выхода моей маленькой книги» [233].

Обнаружив свой невольный плагиат, Доус, разумеется, очень заинтересовался работой Мила, но его научные руководители, казалось, не одобряли этого влияния. «Мои наставники по психоанализу говорили, что Мил – гений и об этом все знают, но его дело не имеет отношения к тому, чем занимаемся мы. И я начал волноваться: если его работа не связана с нашей, может быть, и я не хочу этим заниматься».

К середине 1970‐х годов Доус, который к тому времени перебрался в исследовательский институт Орегона, написал еще одну ошеломляющую статью по той же теме. По его словам, Сарбин и Мил открыли вопрос о том, насколько можно сравнивать статистический анализ с суждениями экспертов. «Считалось, что статистический анализ обеспечит нижний предел, с которым будут сравнивать оценки опытных клинических психологов, – писал Доус. – Так вышло, что низ оказался верхом» [234].

Через тридцать лет после первой статьи Сарбина и многих десятков более поздних работ Доус пришел к выводу: «Литературный поиск не выявил каких‐либо исследований, где клинические оценки оказались бы лучше статистических прогнозов, если и те и другие основывались на одних и тех же кодируемых входных параметрах» (курсив мой) [235].

Картина и в самом деле получилась унизительная. Даже в тех случаях, когда люди получали статистические прогнозы как еще одну часть данных для принятия решения, их заключения оказывались хуже, чем сам прогноз [236]. Другие исследователи пытались действовать наоборот: подавали экспертные суждения людей как входные данные для статистической модели. Особой разницы они не заметили [237].

Подобные заключения, подкрепленные многочисленными исследованиями, должны заставить нас остановиться [238]. Начнем с того, что они подталкивают нас к предположению: какое бы множество проблем ни ждало нас при передаче принятия решений статистической модели, одни только человеческие суждения не могут быть хорошей альтернативой. В то же время, чтобы достигнуть человеческого уровня или даже превзойти его, нет никакой необходимости в сложных и хитроумных моделях.

Тем не менее всплывает провокационный вопрос: что конкретно объясняет этот удивительный вердикт? Неужели человеческие оценки в самом деле столь плохи? Но так ли хороши линейные модели с небольшим количеством переменных? Или… существует третья возможность? Не может ли каким‐то образом человеческий опыт входить в простые модели там, где мы этого меньше всего ожидаем? Не ищем ли мы его в неправильном месте?

Неправильные модели: знать, куда смотреть

Тот факт, что с некоторыми реальными проблемами трудно справиться, не подразумевает, что со всеми реальными проблемами справиться нельзя.

Роберт Холт [239]

К примеру, тот факт, что человек не может совмещать информацию так же эффективно, как компьютер, не значит, что человека могут заместить машины. Он подразумевает необходимость в системе «человек – компьютер».

Хиллель Эйнхорн [240]

Доус вместе с коллегами из исследовательского института Орегона хотел разобраться в сути потрясающей эффективности простых линейных моделей принятия решений.

Одна из гипотез утверждала, что эти модели превосходят экспертов из-за чего‐то вроде эффекта «мудрости толпы»: одна-единственная модель собирает суждения целой группы экспертов, так что вполне понятно, почему она превосходит любого отдельно взятого эксперта. Звучит правдоподобно, но это не так. Как ни удивительно, даже если модель обучена на суждениях одного-единственного эксперта, она все равно превосходит его самого! [241]

Возможно, это как‐то связано с тем, как оптимизированы линейные модели, с тем, что они настроены на оптимальные коэффициенты, взвешивающие каждую переменную. Вместе со своим коллегой Бернардом Корриганом Доус сравнил оценки экспертов с тем, что они называли неправильными линейными моделями, то есть с моделями, где весовые значения не оптимизированы. Исследователи пробовали работать как с равными, так и со случайными весовыми значениями.

Результаты были потрясающими. Модели со случайными весовыми значениями до тех пор, пока значения оставались положительными, были так же точны, как эксперты, или даже превосходили их. Модели с равными весовыми значениями показали себя еще лучше [242].

Практические возможности таких быстрых и простых неправильных моделей казались бесконечными. В середине 1970‐х годов Доус был на конференции врачей. После ее окончания участники выпивали в баре, и врач спросил его: «Можете ли вы, скажем, использовать свою неправильную линейную модель, чтобы предсказать, насколько хороша будет моя семейная жизнь?» [243]

Доус немедленно представил самую простую модель, о которой только мог подумать: он решил, что в хорошем браке секса должно быть больше, чем ссор. Взяв у коллеги набор данных, он занялся математикой. Доус сложил количество раз, когда у пары был секс (его он определил как «соитие, сопровождающееся или не сопровождающееся оргазмом») за период в несколько недель или