Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан

204

См. также Saunders, Pitfalls of Predictive Policing.

205

По мнению Бернара Аркура (в работе Risk as a Proxy for Race), более обдуманные решения об условно-досрочном освобождении – независимо от того, принимаются они машиной или человеком, – безусловно лучше, чем глупые. Однако они не являются главным способом решения проблем переполненности тюрем и расового неравенства в американской пенитенциарной системе.

Что же нужно делать, чтобы разгрузить тюрьмы? Аркур убежден: вместо того чтобы освобождать заключенных на основе прогностических алгоритмов, нам следует изначально реже применять лишение свободы в качестве меры наказания, а также полностью осознать расовое неравенство, заложенное в наших законах. Неотложные меры должны включать: отмену обязательных минимальных сроков заключения, смягчение законодательства, замену уголовного наказания иными мерами исправительного воздействия, внедрение альтернативных программ контроля и снижение налоговой нагрузки в тяжелые времена. Исследования показывают, что в долгосрочной перспективе сокращение сроков (то есть досрочное освобождение заключенных с низким уровнем риска) не окажет такого же значительного влияния на исправительную систему, как банальное снижение числа людей, попадающих за решетку. Таким образом, истинное решение проблемы кроется не в сокращении небольших тюремных сроков, а в уменьшении самого количества обвиняемых, отправляемых в тюрьму.

206

Больше по теме см. в Barabas et al., Interventions over Predictions.

207

Elek, Sapia, and Keilitz, Use of Court Date Reminder Notices to Improve Court Appearance Rates. В 2019 году начались изменения, которые Хардт находит чрезвычайно вдохновляющими: в Техасе округ Харрис, куда входит и Хьюстон, одобрил правовое решение, включавшее развитие системы текстовых сообщений, напоминающих людям о явке в суд. См. Gabrielle Banks, Federal Judge Gives Final Approval to Harris County Bail Deal, Houston Chronicle, 21 ноября 2019.

208

См. Mayson, Dangerous Defendants и Gouldin, Disentangling Flight Risk from Dangerousness. См. также Report on Algorithmic Risk Assessment Tools in the U. S. Criminal Justice System, где утверждается, что инструменты не должны отождествлять многочисленные прогнозы».

209

Интервью автора с Тимом Бреннаном, 26 ноября 2019.

210

См. также Goswami, Unlocking Options for Women. Работа представляет собой исследование женщин, находящихся в тюрьме графства Кук штата Чикаго. Автор приходит к выводу, что судьи должны обладать властью «приговаривать их к выполнению общественно полезных работ, а не к тюремному заключению».

211

Интервью автора с Морицем Хардтом, 13 декабря 2017.

212

См. также Mayson, Bias in, Bias Out, где говорится: «В расово неоднородном мире любой метод прогнозирования будет проецировать неравенство из прошлого в будущее. Это так же верно как для субъективных прогнозов, столь долго пропитывающих мир криминального правосудия, так и для ныне заменивших их алгоритмических инструментов. Что сделала алгоритмическая система оценки риска, так это выделила неравенство во всех прогнозах, заставив нас столкнуться лицом к лицу с куда более крупной проблемой, чем вызовы новых технологий.

213

Burgess, Prof. Burgess on Parole Reform.

214

Грэбер Д. Утопия правил. О технологиях, глупости и тайном обаянии бюрократии. – Пер. Дунаев А. Л. – ООО «Ад Маргинем Пресс», 2016.

215

Berk, Criminal Justice Forecasts of Risk.

216

См. Cooper et al., An Evaluation of Machine- Learning Methods for Predicting Pneumonia Mortality и Cooper et al., Predicting Dire Outcomes of Patients with Community Acquired Pneumonia.

217

См. Caruana et al., Intelligible Models for Healthcare.

218

Cooper et al., Predicting Dire Outcomes of Patients with Community Acquired Pneumonia.

219

Caruana, Explainability in Context— Health.

220

Больше информации о списках правил для принятия решений см. в Rivest, Learning Decision Lists. Более современные обсуждения использования таких списков в медицине см. в Marewski and Gigerenzer, Heuristic Decision Making in Medicine. Более подробную информацию о наборах данных см. в Lakkaraju, Bach, and Leskovec, Interpretable Decision Sets.

221

В системе, которая делает вывод: «если пациент болен астмой, риск осложнений низок», явно отсутствует одна вещь – модель причинно-следственных связей. Одним из ведущих специалистов по информатике, изучающих причинность, является Джуда Перл из Калифорнийского университета в Лос-Анджелесе. С его последними идеями на эту тему в контексте современных систем машинного обучения можно ознакомиться в работе Pearl, The Seven Tools of Causal Inference, with Reflections on Machine Learning.

222

Интервью автора с Ричем Каруаной, 16 мая 2017.

223

Hastie and Tibshirani, Generalized Additive Models. Каруана и его коллеги тоже исследовали чуть более сложный класс моделей, включавших в себя парное взаимодействие или функции с двумя переменными. Они назвали это GA2M (Generalized Additive Models plus Interactions), или обобщенная аддитивная модель с взаимодействием; см. Lou et al., Accurate Intelligible Models with Pairwise Interactions.

224

Каруана говорит, что на то есть ряд причин. Выход на пенсию означает, что меняется образ жизни, а также уровень дохода, страховка и, возможно, даже организация, оказывающая услуги здравоохранения. Они могут переехать. Все это влияет на состояние их здоровья и отношения с системой здравоохранения.

225

Обобщенная аддитивная модель показала, что риск осложнений резко возрастает в 86 лет, а потом так же резко падает в 101 год. По мнению Каруаны, это чисто социальный эффект. Он предполагает, что, когда человеку исполняется 80 с лишним лет, родственники и опекуны чаще воспринимают его недомогания как естественный ход вещей, с которым уже нет нужды отчаянно бороться. Однако, когда человек перешагивает столетний рубеж, возникает совершенно противоположный мотив: «Ты дожил до таких лет, мы не сдадимся просто так!» Каруана отмечает, что врач, возможно, захотел бы скорректировать этот график, посчитав правило об «астматиках» бессмысленным, а различное отношение к 80‐летним, 90‐летним и 100‐летним пациентам – неоправданным. С другой стороны, страховщик мог бы предпочесть оставить модель как есть: с его точки зрения, результаты лечения астматиков действительно оказываются лучше средних показателей. Этот пример подчеркивает две важные вещи. Во-первых, необходимость учитывать разные точки зрения заинтересованных сторон при создании системы. Во-вторых, разницу в ролях: одна группа использует модель для реального вмешательства, которое, в свою очередь,