Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан

Kroll et al., Accountable Algorithms.

165

Dwork et al., Fairness Through Awareness.

166

См. Johnson and Nissenbaum, Computers, Ethics & Social Values.

167

См. Barocas and Selbst, Big Data’s Disparate Impact.

168

Интервью автора с Джоном Клейнбергом, 24 июля 2017.

169

Интервью автора с Александрой Чулдеховой, 16 мая 2017.

170

Интервью автора с Сэмом Корбетт-Дэвисом, 24 мая 2017.

171

Работа Гоэля показала помимо много другого, что те, кому приписывают так называемые «вороватые движения», реже оказываются преступниками, «потому что у вас просто „не было ничего лучше“, чтобы оправдать их остановку». (Из интервью автора с Шарадом Гоэлем, 24 мая 2017). См. также Goel, Rao, and Shroff, Personalized Risk Assessments in the Criminal Justice System.

172

См. Simoiu, Corbett- Davies, and Goel, The Problem of Infra-Marginality in Outcome Tests for Discrimination.

173

См. Kleinberg, Mullainathan, and Raghavan, Inherent Trade-offs in the Fair Determination of Risk Scores, Chouldechova, Fair Prediction with Disparate Impact и Corbett- Davies et al., Algorithmic Decision Making and the Cost of Fairness соответственно. См. также Berk et al., Fairness in Criminal Justice Risk Assessments.

174

Kleinberg, Mullainathan, and Raghavan, Inherent Trade-offs in the Fair Determination of Risk Scores.

175

Интервью автора с Александрой Чулдеховой, 16 мая 2017.

176

Интервью автора с Сэмом Корбетт-Дэвисом, 24 мая 2017. Как ни иронично, ProPublica сделала заголовки из самого этого факта; см. Julia Angwin and Jeff Larson, Bias in Criminal Risk Scores Is Mathematically Inevitable, Researchers Say, ProPublica, 30 декабря 2016.

177

Corbett-Davies et al., Algorithmic Decision Making and the Cost of Fairness.

178

Интервью автора с Сэмом Корбетт-Дэвисом, 24 мая 2017.

179

Kleinberg, Mullainathan, and Raghavan, Inherent Trade-offs in the Fair Determination of Risk Scores.

180

Более подробное обсуждение справедливости именно в контексте выдачи займов см. в Hardt, Price, and Srebro, Equality of Opportunity in Supervised Learning и Lydia T. Liu, et al., Delayed Impact of Fair Machine Learning. Также см. интерактивную визуализацию на http://research.google.com/bigpicture/attacking-discrimination-in-ml/ и https://bair.berkeley.edu/blog/2018/05/17/delayed-impact/.

181

Corbett- Davies et al., Algorithmic Decision Making and the Cost of Fairness (видео).

182

Corbett- Davies et al., Algorithmic Decision Making and the Cost of Fairness.

183

Там же.

184

Интервью автора с Тимом Бреннаном, 26 ноября 2019.

185

Corbett-Davies and Goel, The Measure and Mismeasure of Fairness. См. также Corbett-Davies et al., Algorithmic Decision Making and the Cost of Fairness.

186

См. Rezaei et al., Fairness for Robust Log Loss Classification.

187

Интервью автора с Джулией Энгвин, 13 октября 2018.

188

Flores, Bechtel, and Lowenkamp, False Positives, False Negatives, and False Analyses.

189

Интервью автора с Тимом Бреннаном, 26 ноября 2019.

190

Интервью автора с Синтией Дворк, 11 октября 2018.

191

Интервью автора с Морицем Хардтом, 13 декабря 2017.

192

Утверждение законопроекта SB 10 в Калифорнии стало поводом для создания некоммерческой организации Partnership on AI, представляющей более 90 учреждений в 13 странах, объединенных, чтобы выпустить подробный отчет, рекомендующий десять различных критериев, которым должна отвечать любая модель оценки рисков. См. Report on Algorithmic Risk Assessment Tools in the U. S. Criminal Justice System.

193

Инструмент называется Prisoner Assessment Tool Targeting Estimated Risk and Needs (PATTERN). Он был выпущен 19 июля 2019 года.

194

Интервью автора с Александрой Чулдеховой, 16 мая 2017.

195

Burgess, Factors Determining Success or Failure on Parole.

196

Lum and Isaac, To Predict and Serve?

197

Four Out of Ten Violate Parole, Says Legislator.

198

См. Ensign et al., Runaway Feedback Loops in Predictive Policing.

199

Lum and Isaac, To Predict and Serve?

200

Более подробное обсуждение этой линии аргументов см. в Sam Corbett-Davies, Sharad Goel, and Sandra Gonzalez-Bailon, Even Imperfect Algorithms Can Improve the Criminal Justice System https://www.nytimes.com/2017/12/20/upshot/algorithms-bail-criminal-justice-system.html; Report on Algorithmic Risk Assessment Tools in the U. S. Criminal Justice System и Skeem and Lowenkamp, Risk, Race, and Recidivism.

201

См. Angwin et al., Machine Bias. Вопрос приемлемости применения таких инструментов при вынесении приговоров дошел до Верховного суда Висконсина, где использование оценок риска системы COMPAS для вынесения информированных суждений было признано приемлемым. См. дело «Штат против Лумиса»: https://harvardlawreview.org/2017/03/state-v-loomis/. Использование инструментов оценки риска при вынесении приговоров – очень важная тема сама по себе. Бывший министр юстиции и генеральный прокурор США Эрик Холдер утверждал: «Приговоры по уголовным статьям… не должны основываться на неизменных факторах, которые человек не может контролировать, или на возможности совершения в будущем преступления, которое еще не произошло. В работе Monahan and Skeem, Risk Assessment in Criminal Sentencing обсуждается объединение вины и риска при вынесении приговоров. В работе Skeem and Lowenkamp, Risk, Race, and Recidivism Лоуэнкамп выступает против использования PCRA [инструмент оценки риска] для принятия информированных первоначальных решений по приговорам или окончательных решений об освобождении, не проведя исследование об использовании программы в подобном контексте и не учитывая то, что система PCRA не разработана для таких целей.

202

Harcourt, Against Prediction. Больше информации см. в Persico, Racial Profiling, Fairness, and Effectiveness of Policing и Dominitz и Knowles, Crime Minimisation and Racial Bias.

203

Saunders, Hunt, and Hollywood, Predictions Put into Practice. См. также ответ Управления полиции Чикаго: CPD Welcomes the Opportunity