Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан

месяцев и отнял количество ссор («ситуаций, когда по меньшей мере одна сторона не идет на сотрудничество») за то же время. «Линейный прогноз был воплощением простоты: вычесть уровень ссор из уровня сексуальных взаимодействий. Положительная разница предсказывала счастье, отрицательная – несчастье» [244]. Данные, полученные у пар из Канзас-сити, штат Миссури, показали, что разность секс минус ссоры была положительной для 28 из 30 пар, считавших себя счастливыми, но из тех, кто считал себя несчастными, эта разность была отрицательной у всех 12 пар [245]. Многочисленные исследования, проведенные в Орегоне, Миссури, Техасе, подтвердили эту корреляцию.

Во многих случаях модели с равными весами показали себя лучше, чем оптимальная регрессия. Это казалось невозможным, поскольку оптимальные весовые значения выбираются очень точно. Но они оптимальны для определенного контекста и конкретного набора данных для обучения, а этот контекст не всегда повторяется. К примеру, оптимальные весовые значения для прогнозов академической успеваемости в университете Миннесоты будут отличаться от значений для прогнозов в университете Карнеги – Меллона. Получается, что равные весовые значения показывают себя лучше и надежнее в разных контекстах [246].

Доуса это привело в восторг. Принимая во внимание сложность мира, с какой стати такие предельно простые модели с обычным подсчетом имеющих равный вес атрибутов, не просто работают, а работают лучше, чем эксперты и оптимальная регрессия?

Исследователь нашел несколько ответов. Во-первых, несмотря на огромную сложность реального мира, многие высокоуровневые отношения «условно монотонные» – они не взаимодействуют друг с другом особенно сложным образом. Неважно, что может случиться со здоровьем человека, – почти всегда лучше, если ему скоро тридцать, а не сорок. Неважно, что может произойти с интеллектом, почти всегда лучше, если студент получил за тест на десять баллов больше, чем на десять баллов меньше. Неважно, что может произойти с криминальной историей человека, с его самоконтролем и так далее, почти всегда лучше, если записей об арестах меньше.

Во-вторых, в любых измерениях всегда присутствует ошибка. По теоретическим, а также интуитивно понятным причинам, чем больше измерение подвержено погрешностям, тем более приемлемо использовать его линейно.

Возможно, самым провокационным с точки зрения выравнивания, по мнению Доуса, было то, что эти модели с равновзвешенными значениями превосходят «правильные», оптимально взвешенные системы, поскольку весовые коэффициенты последних, как мы уже видели, должны настраиваться в зависимости от целевой функции. В реальной жизни мы часто либо не определяем, как именно будем измерять успехи, либо у нас нет времени ждать появления опытных данных, чтобы настроить модель. «Например, – пишет Доус, – принимая решение о том, кто из студентов будет получать постдипломное образование, мы хотели бы спрогнозировать некоторые будущие переменные, рассчитанные на долгосрочную перспективу. Их можно определить как «профессиональную самоактуализацию». У нас есть идея о том, что мы вкладываем в это понятие, но пока что нет хорошего, точного определения. (Даже если есть, нет никакой возможности провести исследование, используя данные сегодняшних студентов, потому что доступ к этой переменной не появится, пока не пройдет лет 20 после получения дипломов.) Но, возражает Доус, даже когда мы точно не знаем, чего хотим, и не имеем вообще никаких данных, «неправильные» модели должны послужить нам по крайней мере так же хорошо, как чистая интуиция, а может быть, и лучше [247].

Тем не менее можно возразить, что сравнения Доуса и Корригана не выглядят до конца справедливыми, особенно в отношении экспертов. Модели не представляли собой случайные линейные комбинации случайных характеристик, они были случайными линейными комбинациями именно тех вещей, которые за десятилетия (если не больше) успешного опыта люди отнесли к самым значимым и ценным для прогнозов.

Возникает искушение возразить, что вся эта «предварительная» деятельность – выбор того, какие две, пять или десять вещей в бесконечном потоке доступной информации особенно применимы к решению, которое предстоит принять, – отражает настоящую мудрость и проникновение в проблему: фактически, мы уже сделали самую трудную часть работы, прежде чем передать проблему линейной модели, получающей всю славу. Именно так и считал Доус. Он писал, что «линейная модель не может заменить эксперта в принятии решений о таких вещах, как предмет поиска, но именно это знание в процессе принятия решения и является особым опытом, который есть у людей» [248].

Доус пришел к выводу, что человеческий опыт характеризуется прежде всего знанием предмета поиска, а не умением определить лучший способ свести в единое целое эту информацию. Особенно наглядно эту мысль демонстрирует исследование, которое специалист по теории принятия решений Хиллель Эйнхорн провел в 1972 году [249]. Эйнхорн рассмотрел врачебные заключения о срезах биопсии пациентов с лимфомой Ходжкина. Врачей просили определить факторы, которые они считают важными во время изучения биопсии, оценить каждый срез по этим факторам, а затем сделать общую оценку тяжести состояния пациента. Общая оценка не имела никакой корреляции с выживаемостью среди пациентов. Тем не менее простая модель – это словосочетание уже становится рефреном, – использующая индивидуальные оценки факторов, сделанные специалистами, стала мощным прогнозирующим инструментом, предсказывающим смертность пациентов.

Иными словами, мы не в том месте ищем человеческую мудрость. Возможно, она не в сознании того, кто принимает решения, а в стандартах и методах, точно определяющих, какие части информации следует включить в анализ. Остальное остается на долю математики или, по крайней мере, так должно быть.

Доус сделал вывод иным способом, и эта фраза стала самой популярной в его легендарной карьере: «Весь фокус в том, чтобы узнать, на какие переменные смотреть, а потом понять, как складывать» [250].

Оптимальная простота

Простое может быть труднее сложного: ты должен работать на полную, чтобы очистить свои мысли и сделать все просто. Но в конце концов оно того стоит – достигнув этого [простоты], вы сможете сдвинуть горы.

Стив Джобс [251]

Единственная простота, за которую я был бы готов вам заплатить, – это та, которая стоит по другую сторону сложности, а не та, которая никогда ее не разгадывает.

Оливер Уэнделл Холмс-младший [252]

В XXI веке, вероятно, никто так не сохранил дух Доуса, как специалист по теории вычислительных машин из университета Дьюка Синтия Рудин. Исследовательница сделала простоту одной из центральных тем своей работы. Она не только возражает против использования слишком сложных моделей, но и расширяет границы возможностей простых. К примеру, в 2018 году Рудин и ее коллеги опубликовали статью, доказывающую, что они могут сделать модель прогноза рецидивизма, такую же точную, как COMPAS, суть которой можно свести к одному-единственному предложению: «Если человека задерживали более трех раз, если это мужчина 18–20 лет, если мужчину 21–23 лет задерживали более двух раз, то можно прогнозировать повторный арест; в иных случаях