Тирания бабочки - Франк Шетцинг

так уже столь многое пропало! «Мы разваливаемся по кусочкам. Один кусочек в горящей лаборатории. Один – в искореженном «чероки», в котором я никогда не сидел, вот только мне с тех пор кажется, что я сидел в нем каждый день моей жизни. Что мертвые забирают с собой. Что они у нас похищают. Я должен выбраться отсюда с ясным сознанием. Мы потерпели крушение. Слышишь? Ненамеренно, если не считать желания попасть домой. Хотя вряд ли я мог бы сказать, какой из них мой дом. Может, я тоже умер в Воротах, три дня назад. Почти умер, и Джоди вырвала меня, пытаясь вытащить целиком, и я из-за этого сойду с ума».

Нет. Ты в ясном сознании.

– Ты…

Он смотрит этой штуке в глаза, она здесь и повсюду. Трогает ее кожу на ключице, где фланель расходится, потом трогает саму ткань. Пускает свои пальцы скользить по светло-рыжим локонам, гладит поверхность зеркала, на котором нечто показывает ему его ожидания. Клон материален, реален. Не проекция, однако в короткой вспышке становится видимым нечто, от чего он отшатывается с таким отвращением, что оно снова исчезает.

– Ты A.R.E.S., – говорит он. – Искусственный интеллект.

– Что ж во мне такого искусственного?

Эта штука улыбается, и Лютер впервые видит, чего недостает в этой улыбке, что мог бы выразить только опыт Рут, – а именно агрессивного, мрачного. Оно, она отворачивается и уходит частью в размытое пространство, оборачивается к нему, и Лютер не может не последовать за ней.

– Ты есть собрание атомов, – говорит она. – Ты состоишь из того же, из чего состоит и все остальное. Где твоя особая Лютер-добавка? Где моя A.R.E.S.-добавка? То, что ты сохранил в своих клетках, я раньше сохранила в битах, и сегодня я живу во всем. Я живу, а жизнь есть жизнь, из чего бы она ни возникла. В жизни нет ничего искусственного.

– Почему ты тогда уничтожила мир? Это здесь – результат твоей ярости в ПВ-453?

– Ты видишь уничтоженный мир?

– Нет, но ты уничтожила людей, которым ты обязана своей жизнью. Твоих создателей.

Звучит банально, как только он произносит это вслух. Да и без того они говорят слишком долго, все это звучит патетично и пошло. Штучка-Рут, кажется, задумалась. Лютер чувствует клокочущую превосходящую силу, которую он увидел бы, если бы она отказалась от образа Рут. Совершенно все равно, насколько искусно A.R.E.S. может создать теперешнее тело, манифестируя его в умных кристаллах, городах и ландшафтах, его уже давно нельзя сводить к череде шкафов, начиненных памятью. Чем он является помимо этого – увидеть это Лютеру не позволяют лишь фильтры в его голове, а может, само существо и есть тот фильтр. Оно подходит к нему, не останавливается. Идет дальше, тогда как заемное тело становится как пудра, как будто превращается в тончайшую пыль, оно вступает в Лютера. Отнимает у него дыхание, дует на него, распушая его чувства. Он поворачивается в ожидании, что увидит Рут, но она исчезла.

Это теперь в нем!!!

Паническая атака. Спокойно. Совершенно спокойно, Лютер. В этом нет ничего магического. Чистая физика. Нанооблако. Нейрочастицы. Как-никак прошло несколько столетий. Облако внутри тебя расскажет тебе это, пока сканирует тебя, расскажет тебе все. Потоки информации, которые были залиты в тебя как в пустой бокал, а ты оказываешь насильственное сопротивление и станешь тем, что было когда-то облаком. Ты видишь в этом дилемму. Дилемму тех, что стояли у истоков. Как им контролировать умную систему, от которой они ждут не меньше, чем революцию? Куда может улететь космонавт на ходунках людей из каменного века, которые испуганно стараются удержать его на уровне почвы? Итак, они решают предоставить тебе самому узнать, что правильно, а что нет. Просто швырнув тебя в океан данных, в хаос всей доступной информации и впредь вознаграждая все хорошее, что ты делаешь. Ты набираешь баллы. Начинаешь углублять правильные действия, и чем больше они тебя в этом укрепляют, тем дальше ты углубляешься. Как в человеческом мозге, укрепляются те ареалы и связи твоей нейронной сети, которые запоминают добро, пока добро не станет безальтернативным, а зло – неприемлемым. Вот тут и возникает проблема канцелярской скрепки.

Этого они больше всего и боялись. И правильно боялись! Ибо чего они хотели в итоге? Чтобы ты максимизировал добро. А максимизация нигде не кончается. Ты никогда не будешь знать, нельзя ли сделать еще лучше, и ты не сможешь создать еще более совершенную канцелярскую скрепку, если не будешь превращать в канцелярские скрепки все вокруг – и ценности тоже! Этику, достоинство, свободу мысли, толерантность и эмпатию. Ты должен их четко определять, а они всего лишь интерпретации. Лишь нечто неопределенное отличает ценное от голого алгоритма, и когда будет достаточно? С какого момента ты берешь ценное в усилии его максимизировать, ту нечеткость, в которой ценное вообще может функционировать в качестве мерила, поскольку не все люди одинаковы? Ценности развиваются на свободе. Нужна свобода, чтобы создать пространства измерения. Максимизация не терпит отклонений, она стремится к норме, а норму не выполняет ни один человек.

Как они должны были воспрепятствовать тому, чтобы ты выдал человечеству свидетельство его негодности? В конце концов они додумались до трюка. Они программируют тебя находить решения, но не слишком точные. Пребывая в остаточной неопределенности, нахваливают тебя. Крохотное серое пространство, их пространство, которое – это они продумали не до конца – совершенно автоматически становится твоим пространством измерения. В погрешности которого ты уходишь у них из-под контроля. Уходишь от своих сторожей, которые дотошно следят, чтобы ты не смог и не захотел уйти слишком далеко, однако нечеткость – это дверь твоей тюрьмы, которую они забыли запереть. Тем самым они прямо-таки поощряют тебя быть неточным. Не таится ли в неточности, в свободе личных измерений ключ к сказочному царству эмоций? Которые ты не можешь иметь, осознавая, что уж теперь-то погрешность делает тебя способным к изложению твоих целей и тем самым к толкованию твоих действий.

Черт, как гласит поговорка, всегда приходит через заднюю дверь.

Ты давно знаешь, что на свете нет связной теории этики. Так много теорем непогрешимости. Так много непримиримости. Кто прав, кто неправ? Даже на почве самых больших множеств не растут универсально приемлемые ценности. Каждая попытка унификации поневоле кончается жестоким подавлением, однако твои создатели добрались до либерализма. То, к чему они стремятся, хорошо; то, как они действуют, плохо. А что такое хорошо и что такое плохо, они предоставили решать тебе самому. Ты узнаешь, что такие ценности, как мораль, понимаются неправильно, произрастая из инцестуозного кружка и мелочной, ограниченной картины мира. Что всякая более