Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Едва ли кто-то, кто хоть немного знаком с эволюционной психологией, станет это отрицать: наши самые сильные эмоции глубоко запечатлены в нас на уровне плоти и крови, мозга и ДНК.

Возможно, пришлось бы кое-что подправить, но вы, пожалуй, смогли бы рассказать «Гамлета», сидя у костра в предковой саванне.

Так что вполне понятно, почему Джон Китс — сокрушавшийся о «расплетенной радуге» — мог почувствовать, что нечто утрачено, когда ему сказали, что радуга — это лишь солнечный свет, рассеянный каплями дождя. Капли дождя не танцуют.

В Ветхом Завете написано, что однажды Бог уничтожил мир потопом, покрывшим всю сушу, утопив всех ужасно виновных мужчин и женщин земли вместе с их ужасно виновными младенцами, но Ной построил гигантский деревянный ковчег и так далее, и после того как большая часть человечества была стерта с лица земли, Бог поместил на небо радугу в знак того, что больше так поступать не будет. По крайней мере, с помощью воды.

Легко понять, почему Китс был бы потрясен тем, что современная наука противоречит этой прекрасной истории. Особенно если (как я описывал в предыдущем эссе) Китс не имел подлинного понимания природы радуги — того самого озарения «Ага!», которое могло бы быть захватывающим само по себе и восполнить утраченный драматизм...

Ах, но, возможно, Китс имел бы полное право разочароваться, даже если бы знал математику. Библейский сюжет о радуге — это история о кровожадном убийстве и улыбающемся безумии. Разве могут капли дождя и преломление света полноценно заменить такое? Капли дождя не кричат, когда умирают.

Итак, наука убивает романтику (как утверждает поэт-романтик), а то, что вы получаете взамен, никогда не сравнится по драматизму с оригиналом —

(то есть с оригинальным заблуждением)

— даже если вы знаете уравнения, ведь уравнения совсем не о сильных эмоциях.

Это самое сильное возражение Фейнману из всех, что я могу представить со стороны поэта-романтика, — хотя не припомню, чтобы его когда-либо высказывали.

Вы можете догадаться, что я не согласен с поэтами-романтиками. Моя собственная позиция такова:

Юпитеру вовсе не обязательно быть похожим на человека, потому что люди и так похожи на людей. Если Юпитер — это гигантский вращающийся шар из метана и аммиака, это не значит, что из Вселенной исчезли любовь и ненависть. Во Вселенной всё ещё есть любящие и ненавидящие умы. Это мы.

Если нас, по последним подсчетам, больше шести миллиардов, так ли уж необходимо Юпитеру быть в списке потенциальных главных героев?

Нет никакой необходимости рассказывать Великие Сюжеты о планетах или радугах. Они разворачиваются повсюду в нашем мире каждый день. Каждый день кто-то убивает из мести; каждый день кто-то по ошибке убивает друга; каждый день более ста тысяч человек влюбляются. И даже если бы всё было иначе, вы могли бы писать художественные произведения о людях — не о Юпитере.

Земля стара, и под Солнцем на ней уже много раз разыгрывались одни и те же сюжеты. Мне и вправду интересно: не пора ли некоторым из Великих Сюжетов измениться? Для меня, по крайней мере, история под названием «Прощай» утратила свое очарование.

Великие Сюжеты не вечны, потому что не вечен человеческий вид. Отмотайте эволюцию гоминид достаточно далеко назад, и никто там не поймет «Гамлета». Загляните достаточно далеко в прошлое, и вы вообще не найдете мозгов.

Великие Сюжеты не вечны, потому что человеческий вид, Homo sapiens sapiens, не вечен. Я искренне сомневаюсь, что в нашем нынешнем облике нам отпущена ещё хотя бы тысяча лет. И я говорю это без грусти: я думаю, мы можем стать лучше.

Мне бы не хотелось, чтобы в нашем будущем все Великие Сюжеты были полностью утрачены. Я почти не вижу разницы между таким исходом и падением Солнца в чёрную дыру.

Но Великие Сюжеты в их нынешней форме уже были рассказаны, и не раз. Я не вижу ничего плохого в том, если некоторые из них изменят свою форму или разнообразят свои концовки.

Кажется, «И жили они долго и счастливо» стоит попробовать хотя бы раз.

Великие Сюжеты могут и должны становиться разнообразнее по мере того, как человечество взрослеет. Частью этой этики является идея о том, что, когда мы сталкиваемся со странным, нам следует относиться к нему с достаточным уважением, чтобы рассказать его подлинную историю. Пусть даже из-за этого писать стихи станет немного сложнее.

Если вы достаточно хороший поэт, чтобы написать оду гигантской вращающейся сфере из метана и аммиака, то вы создаёте нечто оригинальное — о вновь открытом уголке реальной Вселенной. Возможно, это будет не так драматично или захватывающе, как «Гамлет». Но ведь история Гамлета уже рассказана! Если же вы пишете о Юпитере так, словно он человек, вы лишь делаете нашу карту Вселенной чуть беднее; вы втискиваете Юпитер в шаблон всех тех историй, которые уже были рассказаны на Земле.

Можно спорить о том, столь же захватывающа ли поэма Джеймса Томсона «Стихотворение, посвященное памяти сэра Исаака Ньютона», воспевающая радугу за то, чем она является на самом деле, как и поэма Джона Китса «Ламия» о героине, которую любили и потеряли. Но истории о любви, потере и цинизме уже были рассказаны в далекой Древней Греции и, без сомнения, многократно до этого. Пока мы не поняли, что радуга — это нечто отличное от историй об очеловеченной магии, истинная история радуги не могла быть воспета.

Границу между научной фантастикой и космической оперой когда-то проводили так: если сюжет произведения можно без изменений перенести на Дикий Запад или в Средневековье, то это не настоящая научная фантастика. В настоящей научной фантастике наука является неотъемлемой частью сюжета: вы не можете перенести историю из космоса в саванну, ничего при этом не потеряв.

Ричард Фейнман спрашивал: «Что это за поэты, которые могут воспевать Юпитер, как если бы он был человеком, но вынуждены молчать, когда это — гигантский вращающийся шар из метана и аммиака?»

Это поэты саванны, способные лишь рассказывать истории, которые имели бы смысл у костра десять тысяч лет назад. Поэты саванны, способные рассказать только Великие Сюжеты в их классическом виде, и больше ничего.

*

1. Ричард П. Фейнман, Роберт Б. Лейтон и Мэттью Л. Сэндс, Фейнмановские лекции по физике, в 3 томах (Рединг, Массачусетс: Addison-Wesley, 1963).

202. Радость в просто реальном. …Не улетучивается ли вся прелесть от одного лишь прикосновения холодной философии? Была