Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан

В ответ директор Института робототехники университета Карнеги-Меллона поздравил его и без паузы добавил: «Ваше будущее – это встреча в моем кабинете через пять минут». На этой встрече Торпу предложили создавать беспилотные автомобили для DARPA.

«Эта пятиминутная встреча, – вспоминал Торп, – и стала всем моим отдыхом между получением степени и началом работы».

К 1984 году уже существовали машины, которые в каком‐то смысле управляли сами собой, но даже слово «примитивные» было бы для них комплиментом. Пионер робототехники Ханс Моравек в своей докторской диссертации (Стэнфорд, 1980 год) представил роботизированную «тележку» на велосипедных колесах. Устройство размером со стол с помощью телекамеры могло ездить по комнате, не натыкаясь на стулья и другие препятствия. «Система сравнительно надежна, – писал Моравек, – но очень медленна» [571]. Насколько медленной она была? Тележку запрограммировали двигаться рывками по одному метру за раз. После каждого рывка она останавливалась, делала снимки и от 10 до 15 минут обдумывала следующий – столь же нерешительный – маневр. Таким образом, ее максимальная скорость составляла 0,0064 км/ч.

Робот двигался настолько медленно, что на улице совершенно терялся: за время между рывками солнце смещалось, и изменившиеся тени ставили машину в тупик [572]. Торп вспоминал: «Система оказывалась в окружении красивых, резких теней. Она видела, что тени двигаются, а реальные объекты – нет. В итоге робот решал, что теням можно доверять больше, чем предметам, отключал восприятие реального мира, погружался в мир теней и окончательно сходил с ума».

В 1984 году Моравек перебрался в Карнеги-Меллон, и Торп работал с ним, чтобы сократить время между рывками с 10 минут до 30 секунд. Максимальная скорость выросла до 0,16 км/ч, что уже считалось успехом.

Самым современным компьютером того времени был VAX‐11/784(VAXimus) – устройство высотой и шириной около двух с половиной метров. Роботы, подобные тележке Моравека, подключались к такому компьютеру длинным гибким кабелем. Но чтобы транспортное средство могло по-настоящему передвигаться по улице, оно должно было возить компьютер на себе. А для питания компьютера требовался огромный четырехцилиндровый генератор. Естественно, для всего этого нужна была машина побольше тележки.

Торп и его группа остановили выбор на фургоне «Шевроле» – он был достаточно вместительным, чтобы перевозить и оборудование, и пятерых аспирантов. Как пошутил Торп: «У парней была отличная мотивация писать качественный код, ведь в случае чего они бы первыми оказались на месте аварии. Вы пишете софт гораздо старательнее, когда знаете, что сами поедете на этой машине».

Проект под названием Navlab 1 всерьез стартовал в 1986 году; к тому моменту система делала шаг каждые десять секунд (проезжая около 400 метров в час) [573]. В том же году у Торпа родился сын Лиланд, который невольно стал идеальным спарринг-партнером для робота. «Когда Navlab полз с черепашьей скоростью, сын тоже только ползал. Робот слегка разогнался – сын научился ходить и говорить. Робот стал еще быстрее – Лиланд освоил трехколесный велосипед. Я решил, что это будет соревнование длиной в 16 лет: посмотрим, кто из них первым выедет на автомагистраль Pennsylvania Turnpike» [574].

Гонка закончилась неожиданно быстро, и победу одержала машина. Аспирант Торпа, Дин Померло, создал систему технического зрения на базе нейронной сети. Она камня на камне не оставила от всех предыдущих подходов, которые пробовала команда. «Так что уже в 1990 году, – рассказывал Торп, – робот был готов выехать на шоссе».

Систему назвали ALVINN (Autonomous Land Vehicle in a Neural Network – автономное наземное транспортное средство на нейросети), и ее обучали методом имитации [575]. «Вы ведете машину несколько минут, – объяснял Торп, – а система учится: „ага, если дорога выглядит так, руль надо повернуть вот так, а если эдак – то иначе“. Поэтому, если вы тренировали ее именно на той трассе, по которой предстояло ехать, она прекрасно справлялась с управлением».

Однажды ранним воскресным утром, когда было светло и дороги пустовали, Померло вывел ALVINN на шоссе. Автомобиль проехал весь путь по автомагистрали I‐79 от Питтсбурга до Эри, на берег Великих озер. «Это была настоящая революция», – говорил Торп, подчеркивая не только сам факт достижения, но и простоту модели. ALVINN не имела представления о скорости движения или сцеплении шин с дорогой. Она не умела распознавать объекты, предсказывать траектории чужих машин или понимать свое положение в пространстве. Она не рассчитывала последствия своих действий. «Люди думали, что для поездок на такой скорости, – вспоминал Торп, – понадобятся фильтры Калмана, сложные клотоидные модели дорог и детальные схемы динамики автомобиля. А все, что сделал Дин, – взял простую нейросеть и научил ее одному правилу: „Если дорога выглядит так – держи руль вот так“».

Как подтвердил Померло в интервью местным новостям: «Мы не говорили системе ничего, кроме: „Держи руль, как я. Учись рулить так, как это сейчас делаю я“» [576]. В те годы для этого требовался компьютер размером с холодильник, питавшийся от пятикиловаттного генератора. Его вычислительная мощность составляла примерно десятую часть от умных часов Apple Watch 2016 года выпуска. При этом ALVINN не управляла газом и тормозом (педали нажимал человек), не умела перестраиваться и никак не реагировала на другие машины. Но она работала – и довезла Померло до Великих озер в целости и сохранности, копируя его движения рулем.

Обучать машины подражать нам – одна из самых естественных идей в машинном обучении, и для беспилотного вождения этот путь выглядит особенно привлекательно. Успех ALVINN намекнул на огромные перспективы такого подхода. Если мы хотим создать полностью автономный автомобиль, нам не нужно выпускать его слоняться на улицы, чтобы он путем проб и ошибок (и неизбежных аварий) выводил правила вождения. Вместо этого мы можем «скормить» системе гигантский массив реальных данных и научить ее копировать решения человека. Получая на входе определенную «картину» (скорость, вид через ветровое стекло, вид в зеркале заднего вида и т. д.), система научится предсказывать, что сделал бы человек: нажал на газ, затормозил, повернул руль или ничего бы не менял.

Такой прогностический подход превращает задачу вождения в аналог конкурса ImageNet по классификации изображений. Только вместо того, чтобы распознать на фото собаку, кошку или цветок, системе показывают картинку с видеорегистратора, и ее нужно «классифицировать» как команду: «ускориться», «затормозить», «повернуть налево» и так далее. Мы уже видели, как глубокое обучение позволяет системам применять знания, полученные на знакомых данных, к незнакомым. Если AlexNet может распознать породу собаки, которую никогда не видела раньше, логично предположить, что и автомобиль сможет переносить свой опыт на новые ситуации. Даже оказавшись на незнакомой дороге, при другом свете и в другом потоке машин, он теоретически должен опираться на прошлый опыт и понимать, что делать.

Суть в том, что вам не нужно выпускать «сырой» беспилотник на улицы для самообучения. Вы просто берете видео и