Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан

Rudin, Supersparse Linear Integer Models for Optimized Medical Scoring Systems. Больше о сотрудничестве с Массачусетской больницей общего профиля по созданию инструмента для диагностики остановки дыхания во сне см. Ustun et al., Clinical Prediction Models for Sleep Apnea. Их исследования по применению подобных методов в контексте рецидива преступлений см. Zeng, Ustun, and Rudin, Interpretable Classification Models for Recidivism Prediction. Более современные работы, в том числе «сертификат оптимальности» для подобных методов и сравнение с COMPAS, см. в Angelino et al., Learning Certifiably Optimal Rule Lists for Categorical Data, Ustun and Rudin, Optimized Risk Scores и Rudin and Ustun, Optimized Scoring Systems.

261

Например, логистическая регрессия может использоваться для создания моделей, коэффициенты которых впоследствии округляются.

262

См. обсуждение и ссылки в Ustun and Rudin, Supersparse Linear Integer Models for Optimized Medical Scoring Systems.

263

Information for Referring Physicians, https://www.uwhealth.org/referring-physician-news/death-rate-triple-for-sleep-apnea-sufferers/13986.

264

Ustun et al., Clinical Prediction Models for Sleep Apnea. Информацию о модели, созданной с использованием SLIM и внедренной в больницы для оценки риска эпилептических припадков, см. в Struck et al., Association of an Electroencephalography-Based Risk Score With Seizure Probability in Hospitalized Patients.

265

Graduate Record Examinations-тест, который необходимо сдавать для поступления в аспирантуру, магистратуру или иной постдипломный курс в вузы США и ряда других стран. – Прим. пер.

266

См. Kobayashi and Kohshima, Unique Morphology of the Human Eye and Its Adaptive Meaning и Tomasello et al., Reliance on Head Versus Eyes in the Gaze Following of Great Apes and Human Infants.

267

О том, как именно зрительное внимание должно вычисляться в области активных исследований, см. Simonyan, Vedaldi, and Zisserman, Deep Inside Convolutional Networks, Smilkov et al., Smoothgrad; Selvaraju et al., “Grad-Cam”, Sundararajan, Taly, and Yan, “Axiomatic Attribution for Deep Networks”; Erhan et al., Visualizing Higher-Layer Features of a Deep Network и Dabkowski and Gal, Real Time Image Saliency for Black Box Classifiers. Сравнение зрительного внимания на основе матрицы Якоби и на основе отклонения в обучении с подкреплением см. в Greydanus et al., Visualizing and Understanding Atari Agents.

Также открытым остается вопрос об ограничениях методов зрительного внимания и их слабостях. См. Kindermans et al., The (Un)reliability of Saliency Methods; Adebayo et al., Sanity Checks for Saliency Maps; and Ghorbani, Abid, and Zou, Interpretation of Neural Networks Is Fragile.

268

Лэндекер заключил: «Более тщательное изучение набора данных выявило, что на фотографиях животных задний план часто бывает не в фокусе, тогда как на тех фотографиях, где животных нет, изображение сфокусировано полностью. Такой тип систематической ошибки с изображениями вполне обоснован, особенно если учесть, что все снимки были сделаны профессиональными фотографами. Результаты распространения фактора показывают нам, как легко неожиданная ошибка может проникнуть в набор данных. См. Landecker, Interpretable Machine Learning and Sparse Coding for Computer Vision и Landecker et al., Interpreting Individual Classifications of Hierarchical Networks. См. также обсуждение специально созданного примера, где нейросеть, разработанная, чтобы отличать волков от хаски, распознавала, в основном, разницу между снегом и травой на фоне: Ribeiro, Singh, and Guestrin, Why Should I Trust You?

269

Hilton, The Artificial Brain as Doctor. Новоа послал коллегам электронное письмо 27 января 2015 года. Там говорилось: «Если ИИ может отличать сотни пород собак, думаю, он в состоянии внести огромный вклад в дерматологию». Это привело к сотрудничеству с Ко и другими. См. Justin Ko, Mountains out of Moles: Artificial Intelligence and Imaging (лекция), Конференция по большим данным в биомедицине, Стэнфорд, Калифорния, 24 мая 2017 года.

270

Esteva et al., Dermatologist-Level Classification of Skin Cancer with Deep Neural Networks.

271

Ko, Mountains out of Moles.

272

Narla et al., Automated Classification of Skin Lesions.

273

См. Caruana, Multitask Learning, но, чтобы познакомиться с более ранними исследованиями, см. Rosenberg and Sejnowski, NETtalk. Более современный обзор см. в Ruder, An Overview of Multi-Task Learning in Deep Neural Networks. Эта идея иногда воплощается в создании нейросети со множеством «голов» – высокоуровневых выходных сигналов, которые на промежуточных этапах обработки опираются на одни и те же признаки. Концепция, долгое время пользовавшаяся лишь умеренной популярностью в сообществе машинного обучения, недавно вновь подняла свои (многочисленные) головы в AlphaGo Zero – одной из самых передовых нейросетей 2010‐х годов. Когда специалисты DeepMind перерабатывали архитектуру своей системы AlphaGo, победившей чемпионов мира, они поняли, что алгоритм можно значительно упростить, объединив две исходные нейросети в одну двуглавую. Оригинальная AlphaGo использовала «стратегическую сеть», чтобы решить, какой ход сделать в текущей позиции, и «оценочную сеть», чтобы взвесить преимущества и недостатки каждого игрока. Исследователи DeepMind резонно предположили, что ключевые промежуточные характеристики – кто какую территорию контролирует, насколько стабильны или уязвимы определенные группы камней – будут практически идентичны для обеих задач. Так зачем делать двойную работу? В архитектуре следующей версии, AlphaGo Zero, стратегическая и оценочная «головы» были подключены к одной общей глубокой нейросети. Эта новая, похожая на Цербера система оказалась не только более простой и философски элегантной, но и играла в го объективно лучше оригинала. (Забавно, что в мифологии Цербера чаще всего описывают трехглавым; двуглавым был его менее известный брат Орф, охранявший стада великана Гериона.)

274

Интервью автора с Ричем Каруаной, 16 мая 2017.

275

Poplin et al., Prediction of Cardiovascular Risk Factors from Retinal Fundus Photographs via Deep Learning.

276

Райан Поплин, интервью, взятое Сэмом Чарингтоном, TwiML Talk, эпизод 122, 26 марта 2018.

277

Zeiler and Fergus, Visualizing and Understanding Convolutional Networks.

278

Matthew Zeiler, Visualizing and Understanding Deep Neural Networks by Matt Zeiler (лекция).

279

См. Zeiler et al., Deconvolutional Networks и Zeiler, Taylor, and Fergus, Adaptive Deconvolutional Networks for Mid and High Level Feature Learning.

280

К 2014 году почти все группы, участвующие в конкурсе ImageNet, использовали эти методы и открытия. См. Simonyan and Zisserman, Very Deep Convolutional Networks for Large- Scale Image Recognition, Howard, Some Improvements on Deep Convolutional Neural Network