Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Много позже, придя к выводу, что даже безопасный джинн — не такая уж хорошая идея, я задним числом понял, что отсутствие сюжетов могло послужить полезным индикатором. В данном конкретном случае мысль «Я не могу придумать ни одной истории, которую мне хотелось бы прочесть об этом сценарии», действительно могла бы указать мне на причину, почему я не захотел бы на самом деле жить в подобных условиях.

Поэтому я подавил в себе привитое воспитанием отвращение к луддизму и теодицее и по крайней мере попытался обдумать следующий довод:

Мир, в котором никогда ничего не идёт не так, или в котором никто никогда не испытывает боли и печали, — это мир, лишённый историй, о которых стоило бы читать.

А мир, о котором вы бы не захотели читать, — это мир, в котором вы бы не захотели жить.

В каждую эвдемоническую жизнь должно пролиться немного боли. Ч.т.д.

С одной стороны, очевидно, что мы не хотим проживать те жизни, которые описываются в большинстве созданных человечеством историй. Вспомните по-настоящему великие произведения, ставшие легендарными как лучшие из лучших в своём жанре: «Илиаду», «Ромео и Джульетту», «Крёстного отца», «Хранителей», Planescape: Torment, второй сезон «Баффи — истребительницы вампиров» или ту самую концовку в Tsukihime. Есть ли в этом списке хоть одна история, которая не трагична?

Обычно мы предпочитаем удовольствие боли, радость — грусти, а жизнь — смерти. И всё же мы почему-то предпочитаем сопереживать страдающим, печальным или вовсе мёртвым персонажам. Или истории о более счастливых людях несерьёзны, недостаточно художественно ценны, чтобы заслуживать похвалы... но почему тогда мы избирательно хвалим именно те истории, где герои несчастны? Приносит ли нам это какую-то скрытую пользу? С какой стороны ни посмотри, это загадка.

В детстве у меня не получалось писать художественную прозу, потому что я устраивал всё так, чтобы у моих персонажей всё складывалось хорошо — точно так же, как мне хотелось, чтобы всё шло хорошо в реальной жизни. От этого меня вылечил Орсон Скотт Кард: «А-а, — сказал я себе, — так вот в чём была моя ошибка: мои персонажи не страдают». Но даже тогда я не осознавал, что микроструктура сюжета работает точно так же, — пока Джек Бикхем не сказал, что каждая сцена должна заканчиваться катастрофой. А я-то всё пытался создавать проблемы и решать их, вместо того чтобы делать их ещё хуже...

Историю просто нельзя оптимизировать так же, как вы оптимизируете реальную жизнь. Лучшая история и лучшая жизнь строятся по совершенно разным критериям.

В реальном мире люди могут жить довольно долго безо всяких серьёзных катастроф, и при этом чувствовать себя вполне неплохо. Когда в последний раз в вас стреляли наёмные убийцы? Давненько, правда? Кажется ли ваша жизнь из-за этого более пустой?

Но с другой стороны...

По какой-то странной причине писатели, когда они стареют или становятся слишком успешными, впадают в моё детство. Их истории начинают развиваться благополучно. Они перестают творить ужасные вещи со своими персонажами, и в итоге начинают творить ужасные вещи со своими читателями. Похоже, это неизбежный симптом Синдрома Пожилого Писателя. Мерседес Лэки, Лорел Гамильтон, Роберт Хайнлайн, даже чёртов Орсон Скотт Кард — все они пошли по этому пути. Они забыли, как причинять боль своим персонажам. Уж не знаю почему.

И когда вы читаете книгу такого пожилого автора или совсем неопытного новичка — историю, где всё неумолимо складывается благополучно одно за другим, — где главный герой побеждает суперзлодея по щелчку пальцев, или, что ещё хуже, перед финальной битвой суперзлодей сдаётся, извиняется, и они снова становятся друзьями —

Это как скрежет ногтя по классной доске, отдающийся у основания позвоночника. Если вы никогда на самом деле не читали подобных историй (или, что ещё хуже, не писали их), считайте, что вам повезло.

Перенесётся ли это ощущение скрежета ногтя по доске из вымысла в реальную жизнь, если вы попытаетесь прожить её без единой капли дождя?

Одним из ответов может быть то, что истории на самом деле нужны не «катастрофа», не «боль» и даже не «конфликт», а просто преодоление. Что проблема историй о Мэри Сью заключается в том, что в них недостаточно преодоления, но им вовсе не обязательна боль. Это, пожалуй, можно проверить.

Другой ответ может заключаться в том, что это и есть та самая трансгуманистическая версия Теории Веселья, о которой мы говорим. А значит, мы можем ответить: «Модифицируйте мозг так, чтобы устранить это ощущение скрежета ногтя по доске», если только нет веских причин его оставить. Если это ощущение — просто бессмысленный случайный баг, мешающий Утопии, удалите его.

Возможно, нам стоит это сделать. Возможно, все Великие Истории — трагедии, потому что... ну...

Как-то я читал, что в БДСМ-сообществе «интенсивное ощущение» — это эвфемизм для боли. Прочитав это, я подумал, что при нынешнем устройстве человека причинить боль просто проще, чем доставить удовольствие. Хотя я рассуждаю о вещах, далёких от моего личного опыта, полагаю, что исключительно талантливому и опытному мастеру секса потребуются часы работы, чтобы вызвать приятное ощущение той же силы, что и боль от одного сильного пинка по яйцам — с чем новичок справится за секунды.

Изучая жизнь священника и прото-рационалиста Фридриха Шпее фон Лангенфельда, исповедовавшего обвиняемых в колдовстве, я разузнал о некоторых инструментах, применявшихся для выбивания признаний. Не существует обычного способа заставить человека чувствовать себя так же хорошо, как те инструменты заставляли его страдать. Не уверен, что на это способны даже наркотики, хотя мой опыт употребления наркотиков столь же ничтожен, как и мой опыт пыток.

В этом есть какой-то дисбаланс.

Да, люди слишком оптимистичны в планировании. Если бы потери не вызывали у нас большего неприятия, чем приобретения, мы бы разорились при нашем нынешнем устройстве. Экспериментальное правило гласит, что потеря чего-то желанного — 50 долларов, кофейной кружки, чего угодно — огорчает в 2–2,5 раза сильнее, чем радует эквивалентное приобретение.

Но это куда более глубокий дисбаланс. Разница в соотношении затраченных усилий и получаемой интенсивности между сексом и пытками измеряется далеко не коэффициентом 2.

Если в нашем мире при нынешнем устройстве человека кто-то пускается на поиски ощущений, неудивительно, что он приходит к добавлению боли в свои удовольствия — как к источнику интенсивности в этом смешанном опыте.

О, если бы только люди были устроены иначе, чтобы можно было вызывать удовольствие столь же интенсивное и в