Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан

548

Meltzoff, ‘Like Me.’

549

Meltzoff and Moore, Imitation of Facial and Manual Gestures by Human Neonates.

550

В исследовании 2012 года двухлетки наблюдали, как взрослый врезается игрушечной машинкой в две коробки, при этом после столкновения с одной игрушка начинала светиться. Когда детям давали машинку, они толкали ее только в эту коробку. (Meltzoff, Waismeyer, and Gopnik, Learning About Causes From People.) «Маленькие дети не имитируют все подряд, – говорит Гопник. – Они подражают только тем действиям, которые ведут к интересному результату». (Гопник Э. Садовник и плотник. Что новая наука воспитания говорит нам об отношениях родителей и детей. – Пер. Полищук В. – М.: Corpus, 2019).

551

Meltzoff, Waismeyer, and Gopnik, Learning About Causes from People и Meltzoff, Understanding the Intentions of Others. Хороший обзор работ по этой теме можно найти в книге Гопник «Садовник и плотник».

552

Meltzoff, Foundations for Developing a Concept of Self.

553

Интервью автора с Эндрю Мелцоффом, 10 июня 2019. «Дети рождаются, чтобы учиться, – писал Мелцофф, – и вначале они учатся, подражая нам. Именно поэтому имитация – такой важный и имеющий широкое распространение аспект раннего развития: это не просто поведение, а средство обучения тому, кем мы являемся». (Meltzoff, Born to Learn.)

554

Термин «чрезмерное подражание» для описания этого явления впервые был использован в работе Lyons, Young, and Keil, The Hidden Structure of Overimitation.

555

Horner and Whiten, Causal Knowledge and Imitation/Emulation Switching in Chimpanzees (Pan troglodytes) and Children (Homo sapiens).

556

McGuigan and Graham, Cultural Transmission of Irrelevant Tool Actions in Diffusion Chains of 3- and 5- Year- Old Children.

557

Lyons, Young, and Keil, The Hidden Structure of Overimitation.

558

Whiten et al., Emulation, Imitation, Over-Imitation and the Scope of Culture for Child and Chimpanzee.

559

Gergely, Bekkering, and Kiraly, Rational Imitation in Preverbal Infants. Отмечу, что некоторые исследователи ставят эту методологию под вопрос, указывая, например, что невозможно, чтобы ребенок раннего возраста, которому нужно удержать равновесие на столе, чтобы коснуться лампы головой, просто имитировал взрослого, кладущего руки на стол, прежде чем качнуться вперед и коснуться лампы. См. Paulus et al., Imitation in Infancy.

560

Buchsbaum et al., Children’s Imitation of Causal Action Sequences Is Influenced by Statistical and Pedagogical Evidence.

561

Hayden Carpenter, What ‘The Dawn Wall’ Left Out, Outside, 18 сентября 2018, https://www.outsideonline.com/2344706/dawn-wall-documentary-tom-my-caldwell-review.

562

Caldwell, The Push.

563

Lowell and Mortimer, The Dawn Wall.

564

‘I Got My Ass Kicked’: Adam Ondra’s Dawn Wall Story, EpicTV Climbing Daily, эпизод 1334.

565

Исследования в этой области ведутся очень активно. См. Subramanian, Isbell, and Thomaz, Exploration from Demonstration for Interactive Reinforcement Learning, Večerik et al., Leveraging Demonstrations for Deep Reinforcement Learning on Robotics Problems with Sparse Rewards и Hester et al., Deep Q- Learning from Demonstrations.

566

Многим агентам при обучении в среде видеоигр позволяют возвращаться к предыдущему этапу почти с любого места, тогда как люди постоянно «сохраняются». Смерть отбрасывает вас к последнему «сохранению», которое, может быть, сделано всего пару мгновений назад, и вам не приходится начинать игру сначала. Агенты могут экспериментировать со сложными или опасными участками, не возвращаясь к началу при проигрыше, что позволяет им хитрить при обучении. Более компетентные агенты могли бы повторить или превзойти то, как на подобных играх учится человек, не прибегая к уловкам.

567

Morgan, An Introduction to Comparative Psychology.

568

См. Бостром, Ник Искусственный интеллект. Этапы. Угрозы. Стратегии. – Пер. с англ. С. Филина. – М.: Манн, Иванов и Фербер, 2016.

569

Robotics History: Narratives and Networks Oral Histories: Chuck Thorpe, устный рассказ, записанный 22 ноября 2010 года Питером Асаро и Сельмой Сабанович, университет Индианы, Блумингтон, штат Индиана, специально для университета Индианы и IEEE, https://ieeetv.ieee.org/video/robotics-history-narratives-and-networks-oral-histories-chuck-thorpe.

570

Больше информации о проекте ALV (autonomous land vehicle) см. в Leighty, DARPA ALV (Autonomous Land Vehicle) Summary. Больше о Стратегической инициативе DARPA по разработке программ и средств вычислительной техники см. в Strategic Computing. Больше о проектах DARPA середины 1980‐х см. Stefik, Strategic Computing at DARPA. См. также Roland and Shiman, Strategic Computing.

571

Moravec, Obstacle Avoidance and Navigation in the Real World by a Seeing Robot Rover.

572

См. также размышления Родни Брукса в книге Brooks, Flesh and Machines.

573

Согласно телевизионной программе Scientific American Frontiers, сезон 7, эпизод 5, Robots Alive! Выход в эфир 9 апреля 1997 на канале PBS.

574

Торп проверял систему предотвращения столкновений Navlab, наблюдая, затормозит ли машина, когда перед ней проезжает Лиланд на четырехколесном велосипеде. Повзрослев и получив собственную степень по робототехнике в Карнеги – Меллон, Лиланд начал работать над технологией автоматизации автомобилей в AssistWave – компании, основанной студентом Торпа Дином Помело. Торп в шутку представлял, как Лиланд проходил собеседование: «С тех пор я по-настоящему увлекся надежностью и безопасностью беспилотников!» Впоследствии Лиланд оставил информационные технологии и стал семинаристом в конгрегации «Облаты Девы Марии».

575

Pomerleau, ALVINN и Pomerleau, Knowledge-Based Training of Artificial Neural Networks for Autonomous Robot Driving.

576

Отрывок из новостного выпуска компании KDKA, 1997 год.

577

См. также Pomerleau, Knowledge-Based Training of Artificial Neural Networks for Autonomous Robot Driving: «Беспилотное вождение потенциально может стать идеальной отраслью для таких алгоритмов контролируемого обучения, как обратное распространение ошибки, поскольку здесь присутствует легко доступный обучающий сигнал или „правильный ответ“ в форме текущего положения руля у водителя-человека».

578

Курс назывался CS294–112 «Глубокое обучение с подкреплением», процитированная лекция «Имитационное обучение» состоялась 3 декабря 2017 года.