Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан

Исследования Доуса одновременно вдохновляют Рудин и бросают ей вызов. Итак, простые модели, составленные с помощью тщательно отобранных высокоуровневых переменных, работают почти так же хорошо (а иногда даже лучше), как и более сложные модели, и значительно лучше экспертов. Но даже это оставляет много вопросов и интересных возможностей для исследователя. Как, например, создать не какую‐то простую модель для отдельно взятого набора данных, а лучшую простую модель?

Как ни удивительно, ответ появился только несколько лет назад.

Рудин изучила простые модели, используемые в системе здравоохранения XXI века, и пришла к иному, далеко не столь оптимистичному, как у Доуса, выводу. Вместо того чтобы рассматривать современные модели как альтернативу, превосходящую интуицию врачей, она увидела только то, что эти модели сформированы с помощью интуиции врачей. И в них многое можно улучшить.

Исследовательница приводит в качестве примера оценочный лист ишемической болезни сердца у мужчин. «Если мужчина придет на консультацию, врач попытается вычислить риск появления у него ишемической болезни сердца в течение десяти лет. И для этого врачу нужно узнать несколько факторов: возраст, уровень холестерина, курение и так далее. Мужчина ответит на вопросы, каждому ответу присвоят очки, которые потом сложат и переведут в оценку риска возникновения ишемической болезни сердца в течение десяти лет. – Тут ее голос резко меняется. – Но где они взяли эти вопросы? И как они начисляют очки? Так вот, они все это придумали! Это придумала команда врачей! И делается это совсем не так, как мне хотелось бы. Я бы хотела создать что‐то столь же понятное, но основанное на данных» [254].

Поиск оптимальных простых правил – дело не для слабонервных. Для этого нужно ухватить то, что с трудом поддается обработке, то есть решить задачу недетерминированной полиномиальной сложности, продраться сквозь дебри сложности, в которых нет прямолинейных смыслов, которые обеспечат лучший возможный ответ. Взяв десятки тысяч записей о пациентах, в каждой из которых содержатся десятки или даже сотни критериев – возраст, кровяное давление и т. д., – как вы найдете лучшую простую логическую программу, ведущую к постановке диагноза? У специалистов по информатике есть набор инструментов, позволяющий добиться успеха в решении этой задачи, но Рудин считает, что существующих алгоритмов создания списка простых правил и оценочных систем на основе больших данных, таких как CART, разработанный в 1980‐х [255], и С4.5, разработанный в 1990‐х [256], недостаточно. Специалистам по компьютерам в 2010‐х доступно то, чего не было у программистов 1980‐х и 1990‐х: мощность компьютеров выросла примерно в миллион раз. Вместо того чтобы использовать эту мощность для обучения огромной сложной модели, такой как AlexNet, куда входят десятки миллионов параметров, почему бы с ее помощью не организовать обширное пространство для всех возможных простых моделей? Что тогда станет возможным? Команда Рудин вернулась к чертежным доскам и разработала новые подходы – для моделей, основанных на правилах, и для моделей, основанных на оценочных листах, – и приступила к их сравнению с существующим положением вещей.

Рудин и ее коллеги обращали особое внимание на то, чтобы обойти одну из самых распространенных в медицине моделей. Разработанная в 2001 году CHADS2 и ее преемник CHA2DS2-VASc, разработанная в 2010‐м, предназначены для прогноза риска инсульта у пациентов с мерцательной аритмией [257]. В их создании участвовали врачи и исследователи, работавшие с набором данных и клиническим опытом, чтобы определить то, что они считали самыми релевантными факторами. Последующие исследования подтвердили прогностическую пользу систем. Но обе модели, несмотря на то, что повсеместно признаны эффективными инструментами и используются чрезвычайно широко, остаются в некоторой степени «кустарными». Рудин хотела путем вычислений определить самые релевантные факторы и соединить их в один инструмент оценки.

Обработав в шесть тысяч раз больше данных, чем было использовано при создании исходного CHADS2, Рудин предоставила своему алгоритму под названием «Списки байесовских правил» (Bayesian Rule Lists) выборку из двенадцати тысяч пациентов, откуда было выделено 4100 различных характеристик – лекарства, которые они принимали, нарушения состояния здоровья, о которых они сообщали, – чтобы создать лучшую из возможных систем оценки [258]. Затем она сравнила свою модель с CHADS2 и с CHA2DS2-VASc на выбранных частях того же набора данных.

Результаты показали заметное преимущество по сравнению и с CHADS2, и с CHA2DS2-VASc. Еще интереснее, что эти исследования показали значительное снижение точности более современного CHA2DS2-VASc по сравнению с оригинальным CHADS2. Более новая модель, казалось, была хуже старой – по крайней мере, по этому показателю, на этом наборе данных. Как деликатно сформулировали Рудин и ее коллеги в своей статье, это «подчеркивает трудности создания таких интерпретируемых моделей вручную».

В следующем проекте Рудин и ее аспирант Берк Астан работали с Массачусетской больницей общего профиля над разработкой системы оценки для синдрома остановки дыхания во сне, поражающего десятки миллионов американцев и сотни миллионов людей во всем мире [259]. Их целью было создание модели, которая будет не только максимально точна, но и достаточно проста для быстрой и надежной работы на достаточно старом оборудовании – в блокнотах врачей.

Из-за того, что модели предстояло применяться на бумаге, Астан и Рудин должны были сделать ее невероятно простой. Предстояло рассмотреть несколько однозначных признаков и целые коэффициенты, также максимально малые [260]. Даже в XXI веке практикующие врачи иногда придумывают импровизированные модели, основываясь только на своей интуиции. Этот метод иногда насмешливо называют BOGSAT – a bunch of guys sitting around a table (группа людей собралась за столом). Даже в тех случаях, когда при создании модели использовалось машинное обучение, часто получались более сложные модели, которые задним числом упрощали вручную [261]. В наши дни мало что поменялось: модели в современной медицинской практике были разработаны в той же импровизированной манере, поэтому их точность страдает, что сказывается на пациентах [262]. Астан и Рудин решили попробовать найти способ получше.

Они разработали модель под названием SLIM (Supersparse Linear Integer Model, Сверхразреженная линейная целочисленная модель), чтобы находить не только достаточные эвристические правила, но и доказуемые оптимальные пути принятия решения при столь суровых ограничениях. Результат их работы был двойственным и дал конкретные преимущества и медицине, и машинному обучению.

Во-первых, вопреки расхожему мнению и принятым практикам модель доказала, что симптомы пациентов значительно менее полезны, чем истории их болезней. Когда Астан и Рудин обучали модель на медицинских историях пациентов – сердечные приступы в прошлом, повышенное артериальное давление и т. д., – она делала куда лучшие прогнозы, чем модель, подготовленная на непосредственных симптомах – храп, одышка и плохой сон. Более того, добавление симптомов в модель, основанную на историях болезней, не дало значительных улучшений. Диагностика остановки дыхания