Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан

Sellen, Introduction to Ohlin, Selection for Parole.

132

Интервью автора с Тимом Бреннаном, 26 ноября 2019.

133

См. Entwistle and Wilson, Degrees of Excellence. Работа написана научным руководителем Бреннана и подводит итоги его докторской диссертации.

134

Больше о работе Бреннана и Уэллса над классификацией заключенных в тюрьмах в начале 1990‐х см. Brennan and Wells, The Importance of Inmate Classification in Small Jails.

135

Harcourt, Against Prediction.

136

Burke, A Handbook for New Parole Board Members.

137

Основатели Northpointe Тим Бреннан и Дэйв Уэллс разработали инструмент, который назвали COMPAS, в 1998 году. Больше информации о нем см. в Brennan, Dieterich, and Oliver, COMPAS, а также в Brennan and Dieterich, Correctional Offender Management Profiles for Alternative Sanctions (COMPAS). В работе Andrews, Bonta, and Wormith, The Recent Past and Near Future of Risk and/or Need Assessment COMPAS описан как инструмент «четвертого поколения». Один из ведущих инструментов «третьего поколения», предшествующий COMPAS, называется Level of Service Inventory (or LSI), за ним последовал Level of Service Inventory— Revised (LSI- R). См. Andrews, The Level of Service Inventory (LSI) и Andrews and Bonta, The Level of Service Inventory— Revised. Больше информации о внедрении COMPAS в округе Брауард, штат Флорида, см. в Blomberg et al., Validation of the COMPAS Risk Assessment Classification Instrument.

138

В частности, оценка рецидива насильственных преступлений производится по следующей формуле: (возраст – w1) + (возраст при первом аресте – w2) + (история насильственных преступлений w3) + (профессиональное образование w4) + (история нарушений режима w5), где веса w определяются статистически. См. http://www.equivant.com/wp-content/uploads/Practitioners-Guide-to-COMPASCore‐040419.pdf, § 4.1.5.

139

См. New York Consolidated Laws, Executive Law – EXC § 259‐c: State board of parole; functions, powers and duties.

140

New York’s Broken Parole System.

141

A Chance to Fix Parole in New York.

142

Smith, In Wisconsin, a Backlash Against Using Data to Foretell Defendants’ Futures.

143

Quantifying Forgiveness: MLTalks with Julia Angwin and Joi Ito. Что касается Стива Джобса, см. Eric Johnson, It May Be ‘Data Journalism,’ but Julia Angwin’s New Site the Markup Is Nothing Like FiveThirtyEight.

144

Книга Angwin, Dragnet Nation.

145

Интервью автора с Джулией Энгвин, 13 октября 2018.

146

Lansing, New York State COMPAS- Probation Risk and Need Assessment Study.

147

Podkopacz, Eckberg, and Kubits, Fourth Judicial District Pretrial Evaluation.

148

Podkopacz, Building and Validating the 2007 Hennepin County Adult Pretrial Scale.

149

См. также Harcourt, Risk as a Proxy for Race, где он утверждает: «Риск превратился в историю криминального прошлого, а криминальная история прошлого стала лакмусовой бумажкой для расы. Комбинация этих двух тенденций означает, что использование инструментов оценки риска в нашей системе уголовного правосудия скоро будет отягощаться неприемлемым уровнем расового неравенства». Контраргументы см. в Skeem and Lowenkamp, Risk, Race, and Recidivism.

150

Джулия Энгвин, вступительная речь на симпозиуме по кодексам юстиции в Колледже уголовного права имени Джона Джея 12 октября 2016.

151

Интервью автора с Джулией Энгвин, 13 октября 2018.

152

Angwin et al., Machine Bias.

153

Dieterich, Mendoza, and Brennan, COMPAS Risk Scales. См. также Flores, Bechtel, and Lowenkamp, False Positives, False Negatives, and False Analyses.

154

См. Response to ProPublica.

155

См. Angwin and Larson, ProPublica Responds to Company’s Critique of Machine Bias Story и Larson and Angwin, Technical Response to Northpointe.

156

Angwin and Larson, ProPublica Responds to Company’s Critique of Machine Bias Story. См. также Larson et al., How We Analyzed the COMPAS Recidivism Algorithm. В этой цитате есть техническая неточность. Показатель обвиняемых, «имевших более высокую оценку риска, но не совершавших повторных преступлений», математически переводится в дробь: «Ложноположительные случаи» / («Ложноположительные случаи» + «Реально положительные случаи»), которая называется средней долей ложных отклонений от гипотезы. Тем не менее, статистические данные, на которые здесь ссылается ProPublica, в действительности показывают не долю ложных отклонений от гипотезы, а уровень ложноположительных результатов, который определяется как «Ложноположительные случаи» / («Ложноположительные случаи» + «Реально отрицательные случаи»). Более адекватный перевод этого выражения на язык слов будет содержать синтаксическую конструкцию, обратную по сравнению с той, которая звучит у ProPublica: обвиняемые, «которые не были арестованы повторно, но имели более высокую оценку риска».

157

См. Dwork et al., Calibrating Noise to Sensitivity in Private Data Analysis. Браузер Google Chrome начал использовать дифференциальную приватность в 2014 году, компания Apple внедрила ее в операционные системы macOS Sierra и iOS 10 в 2016, а другие технологические компании добавили в комплект множество связанных идей и разработок. В 2017 году Дворк и ее коллеги по статье 2006 года разделили премию Геделя за свою работу.

158

Интервью автора с Синтией Дворк, 11 октября 2018.

159

Steel and Angwin, On the Web’s Cutting Edge, Anonymity in Name Only. См. также Sweeney, Simple Demographics Often Identify People Uniquely, где показано, что сочетания даты рождения, пола и почтового индекса было достаточно, чтобы опознать 87 % американцев.

160

Интервью автора с Морицем Хардтом, 13 декабря 2017.

161

См. Dwork et al., Fairness Through Awareness. Более подробное обсуждение проблемы см. в Harcourt, Risk as a Proxy for Race и Skeem и Lowenkamp, Risk, Race, and Recidivism.

162

Этот вопрос обсуждается в работе Corbett- Davies, Algorithmic Decision Making and the Cost of Fairness, а также в работе Corbett-Davies and Goel, The Measure and Mismeasure of Fairness.

163

Самые новые соображения по этой теме см. в Kleinberg et al., Algorithmic Fairness. Обсуждения середины 1990‐х годов см. в Gottfredson and Jarjoura, Race, Gender, and Guidelines-Based Decision Making.

164