Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан

class="p1">Первое преимущество имитации – ее эффективность. При подражании вам преподносят на блюдечке плоды чужих, с трудом давшихся проб и ошибок. Немаловажно и то, что обучение через имитацию дает уверенность: то, что вы пытаетесь сделать, в принципе осуществимо.

В 2015 году знаменитые скалолазы Томми Колдуэлл и Кевин Йоргенсон вошли в историю, совершив первое успешное восхождение на «Стену Рассвета» – отвесный гранитный монолит высотой 914 метров в национальном парке Йосемити. Журнал Outside назвал это «самым сложным восхождением в мире» [561]. Колдуэллу и Йоргенсону потребовалось восемь лет, чтобы спланировать маршрут, опробовать различные участки, связать их воедино и найти единственный физически возможный путь от подножия к вершине. «Стена Рассвета, – по словам Колдуэлла, – была намного сложнее всего, что я делал раньше» [562]. Издалека скала казалась абсолютно гладкой, непроницаемой стеной. Небольшие зацепы выглядели совершенно непригодными для человека. «На этом маршруте мне приходилось делать пальцами самые немыслимые вещи в моей жизни, – вспоминал Колдуэлл. – Я буквально цеплялся за мельчайшие трещины» [563].

На следующий год Адам Ондра, восходящая звезда скалолазания из Чехии, сумел повторить этот маршрут всего после нескольких недель разведки и тренировок. Он объяснял свою скорость не только тем, что ему показали готовый путь, но и самим знанием о том, что это восхождение вообще возможно. Колдуэлл и Йоргенсон, начиная свою изнурительную восьмилетнюю экспедицию, такой уверенности не имели. Ондра сказал об этом так:

«То, что Томми и Кевин приложили столько усилий, потратив годы и годы… производит глубочайшее впечатление. На сложных участках было столько пугающих моментов, когда можно было подумать: «Нет. Это невозможно». И только после изучения каждой крошечной трещинки в голову приходило единственное верное решение. Мне было гораздо легче разгадывать эти бонусы, поскольку я знал, что другие уже сделали это… Они были первопроходцами, а я очень горд, что стал первым, кто повторил их достижение [564].

Первое восхождение потребовало восьми лет тяжелейшего труда и сомнений. Второе – нескольких недель изучения и тренировок, так как спортсмена поддерживала уверенность в том, что путь существует, каким бы фантастическим он ни казался.

Ранее мы обсуждали игру Montezuma’s Revenge, где нужно выполнить невероятное количество действий, чтобы получить хотя бы первую награду. Но даже после этого путь к победе остается туманным, обнадеживающая обратная связь – редкой, а цена ошибки – катастрофической. Для алгоритмов обучения с подкреплением эта игра стала своей «Стеной Рассвета» – гладкой, неприступной скалой, бросающей вызов. Даже с использованием таких методов, как поощрение за новизну и внутренняя мотивация, агенту требуются миллионы попыток, чтобы изучить механику и найти путь к успеху. Но что, если агент не будет исследовать игру в одиночку? Что, если дать ему пример для подражания?

В 2018 году команда DeepMind под руководством Юсуфа Айтара и Тобиаса Пфаффа, выдвинула гениальную идею. Они задались вопросом: может ли агент научиться играть, не исследуя мир вслепую, а… просматривая видеоролики?

Идея была дерзкой и достаточно безумной, чтобы сработать. Полно видео, где играют люди. Агент мог бы, по сути, оценить успешность различных действий, просто наблюдая за тем, как их выполняют другие. К моменту, когда приходила его очередь играть, он уже имел общее представление о том, что нужно делать. Этот первый агент, обученный подражать людям, на тот момент превзошел любой ИИ, тренировавшийся исключительно методом проб и ошибок. Говоря точнее (предвосхищая крупные успехи внутренней мотивации в конце 2018 года), это был первый ИИ-агент, который сумел выбраться из храма в Montezuma’s Revenge, получив на старте небольшую помощь в виде человеческого примера [565].

Второе критически важное преимущество имитации – безопасность. Обучение через бесконечные провалы отлично работает в мире Atari, где смерть – это всего лишь перезагрузка уровня [566]. В реальной жизни мы не можем позволить себе роскошь ошибиться сотни тысяч раз, чтобы в итоге сделать все правильно. Хирург или пилот истребителя должны отточить свои навыки до невероятной точности, так и не совершив ни одной фатальной ошибки. Суть этого процесса – наблюдение за реальными, записанными на видео или даже гипотетическими историями успехов и неудач своих предшественников.

Третье преимущество имитации в том, что она помогает освоить навыки, которые трудно описать словами. Психолог XIX века Конвей Ллойд Морган имел в виду именно это, когда писал: «Пятиминутный показ стоит больше, чем пять часов разговоров, когда цель состоит в том, чтобы привить навык. В описании или объяснении того, как что‐то делается, пользы довольно мало; гораздо полезнее показать это» [567]. Это подтверждается каждый раз, когда мы пытаемся объяснить физическое действие: «А теперь отведи локоть на двадцать семь градусов и быстро, но не слишком, крутани запястьем…» То же самое касается попыток объяснить ученику глобальную цель. В играх Atari команда вроде «набери как можно больше очков» или «пройди уровень как можно быстрее» обычно работает. Но в реальном мире бывает чрезвычайно трудно формализовать то, что должна усвоить система.

Самый классический пример – управление автомобилем. Мы хотим доехать из пункта А в пункт Б как можно быстрее, но не нарушая скоростной режим (или превышая его не слишком сильно, если ситуация вынуждает), оставаясь в центре своей полосы (если там нет мотоциклиста или сломавшейся машины) и не обгоняя справа (если только это не безопаснее, чем тормозить). Невероятно сложно превратить всю эту гамму неписанных правил в строгую математическую функцию, которую можно просто «скормить» системе для оптимизации.

В таких случаях лучше использовать подход, который Ник Бустром из Института будущего человечества назвал «непрямым методом» [568]. Это способ согласовать действия системы с нашими желаниями, не прописывая каждую мелочь в коде. В идеале мы хотим просто сказать: «Смотри, как я веду автомобиль. Делай как я».

Как выяснилось, именно этот подход стал одной из первых идей, легших в основу концепции беспилотных автомобилей. И по сей день он остается одним из лучших.

Рулевое управление

В 1984 году агентство DAPRA запустило проект под названием «Стратегическая компьютерная инициатива» (Strategic Computing Initiative). Его главная идея заключалась в том, чтобы использовать новейшие компьютерные достижения 80‐х годов в трех конкретных военных сферах. Как вспоминает Чак Торп, в то время только получивший докторскую степень по робототехнике в Университете Карнеги-Меллона: «Почему именно в трех? Ну, одна должна была осчастливить армию, другая – военно-воздушные силы, а третья – военно-морские» [569]. ВВС хотели получить «помощника пилота» – автоматизированного второго пилота, понимающего голосовые команды. ВМФ был заинтересован в «системе управления боем», способной помогать с планированием и прогнозированием погоды. А сухопутная армия заказала автономные наземные транспортные средства [570].

В сентябре, успешно защитив диссертацию, Торп сообщил комиссии, что планирует уйти в отпуск на пару недель, чтобы подумать о будушем.