Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан

меняет статистику; другая же группа выступает лишь пассивным наблюдателем. Машинное обучение само по себе эту разницу не осознает.

226

См. Lou et al.

227

Schauer, Giving Reasons.

228

Интервью автора с Дэвидом Ганнингом, 12 декабря 2017.

229

Интервью автора с Брайсом Гудманом, 11 января 2018. «Право потребовать объяснения алгоритмических решений» впервые обсуждалось в работе Goodman and Flaxman, European Union Regulations on Algorithmic Decision-Making and a ‘Right to Explanation’. Некоторые ученые спорили о том, насколько сильно это положение, см. Wachter, Mittelstadt, and Floridi, Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation. Другие отреагировали на это, см. Selbst and Powles, Meaningful Information and the Right to Explanation, и противоречия продолжали расти. Точный юридический статус «права на объяснения», по всей видимости, может быть разъяснен только постепенно, с помощью судов.

230

Thorndike, Fundamental Theorems in Judging Men.

231

Robyn Dawes, Dawes Unplugged – интервью с Робином Доусом, проведенное Иоахимом Крюгером по теме «Рациональность и социальная ответственность», университет Карнеги-Меллона, 19 января 2007.

232

Sarbin, A Contribution to the Study of Actuarial and Individual Methods of Prediction.

233

Meehl, Causes and Effects of My Disturbing Little Book.

234

Dawes and Corrigan, Linear Models in Decision Making ссылается на Sarbin, A Contribution to the Study of Actuarial and Individual Methods of Prediction.

235

См. Dawes, The Robust Beauty of Improper Linear Models in Decision Making.

236

См. Goldberg, Simple Models or Simple Processes?

237

См. Einhorn, Expert Measurement and Mechanical Combination.

238

Обращение к книге Пола Мила 1986 года см. в Meehl, Causes and Effects of My Disturbing Little Book. Точку зрения Доуса и Мила в 1989 см. в Dawes, Faust, and Meehl, Clinical Versus Actuarial Judgment. Современный взгляд на проблему см. в Kleinberg et al., Human Decisions and Machine Predictions.

239

Holte, Very Simple Classification Rules Perform Well on Most Commonly Used Datasets.

240

Einhorn, Expert Measurement and Mechanical Combination.

241

См. Goldberg, Man Versus Model of Man, и Dawes, A Case Study of Graduate Admissions.

242

Dawes and Corrigan, Linear Models in Decision Making. См. также Wainer, Estimating Coefficients in Linear Models, где есть детальное описание равных весовых значений. Как пишет Вайнер, «когда вы интересуетесь прогнозом, очень редко возникает ситуация, требующая регрессии неравных весовых значений». См. также Dana and Dawes, The Superiority of Simple Alternatives to Regression for Social Science Predictions, где это заключение подтверждается в контексте социальных наук XXI века.

243

См. Dawes, The Robust Beauty of Improper Linear Models in Decision Making.

244

Howard and Dawes, Linear Prediction of Marital Happiness.

245

См. Howard and Dawes, Linear Prediction of Marital Happiness, где авторы ссылаются на Alexander, Sex, Arguments, and Social Engagements in Martial and Premarital Relations.

246

Пол Мил пришел к выводу, что «в самых практических ситуациях невзвешенная сумма небольшого количества „больших“ переменных в среднем предпочтительнее регрессионных уравнений». См. Dawes and Corrigan, Linear Models in Decision Making, где есть обсуждение и ссылки.

247

Dawes, The Robust Beauty of Improper Linear Models in Decision Making. См. также Wainer, Estimating Coefficients in Linear Models: «Следует также отметить, что такого рода схемы [равные весовые значения в линейной модели] хорошо работают, даже когда операционный критерий недоступен».

248

Dawes, The Robust Beauty of Improper Linear Models in Decision Making.

249

Einhorn, Expert Measurement and Mechanical Combination.

250

Dawes and Corrigan, Linear Models in Decision Making.

251

См. Andy Reinhardt, Steve Jobs on Apple’s Resurgence: ‘Not a One-Man Show,’ Business Week Online, May 12, 1998, http://www.businessweek.com/bwdaily/dnflash/may1998/nf80512d.htm.

252

Holmes and Pollock, Holmes – Pollock Letters.

253

Angelino et al., Learning Certifiably Optimal Rule Lists for Categorical Data. См. также Zeng, Ustun, and Rudin, Interpretable Classification Models for Recidivism Prediction и Rudin and Radin, Why Are We Using Black Box Models in AI When We Don’t Need To? Информацию о другой простой модели, достигшей той же точности, что и COMPAS, см. Dressel and Farid, The Accuracy, Fairness, and Limits of Predicting Recidivism. Дальнейшее обсуждение см. в Rudin, Wang, and Coker, The Age of Secrecy and Unfairness in Recidivism Prediction, а также в Chouldechova, Transparency and Simplicity in Criminal Risk Assessment.

254

Cynthia Rudin, Algorithms for Interpretable Machine Learning (лекция), 20‐я конференция AGM SIGKIDD по обнаружению знаний и интеллектуальному анализу данных, Нью-Йорк, 26 августа 2014.

255

Breiman et al., Classification and Regression Trees.

256

См. Quinlan, C4.5; У C4.5 также существует более современный алгоритм-последователь C5.0.

257

Больше информации о CHADS2 см. в Gage et al., Validation of Clinical Classification Schemes for Predicting Stroke, а о CHA2DS2-VASc – в Lip et al., Refining Clinical Risk Stratification for Predicting Stroke and Thromboembolism in Atrial Fibrillation Using a Novel Risk Factor-Based Approach.

258

См. Letham et al., Interpretable Classifiers Using Rules and Bayesian Analysis.

259

См. Veasey and Rosen, Obstructive Sleep Apnea in Adults.

260

Метод SLIM использует так называемую бинарную функцию потерь (простую оценку количества верных и ошибочных прогнозов), норму l0 (которая стремится свести к минимуму используемый набор характеристик) и ограничивает весовые коэффициенты взаимно простыми целыми числами. См. Ustun, Traca, and Rudin, Supersparse Linear Integer Models for Predictive Scoring Systems и Ustun and