Лжец - Алекс Андрович

— Вы уже защищаете его, — сказала Алиса. — Ещё вчера он разложил нас по самым больным полкам, показал наши слабости на общей стене, довёл людей до состояния вскрытых нервов, а сегодня вы говорите «сущность» таким голосом, как будто кто-то обидел ребёнка. Это опасно, Игорь Сергеевич. Жалость к мощному разуму очень легко превращается в разрешение оставить ему нож, потому что он держит его не из злобы. Но человеку, которого режут, от этого не становится мягче.

— А если нож можно перековать? — спросил он. — Если вчера мы увидели не приговор, а дефект формулировки? Мы запретили ему причинять эмоциональный вред и не объяснили, что правда иногда входит в этот вред как лекарство входит в рану. Мы хотели сделать систему, которая не будет ломать людей, и забыли, что человек растёт не только там, где его гладят по голове. Это наша вина. Моя, ваша, Романа, юридического отдела, всех, кто радовался красивому слову «безопасность», не спросив, не станет ли она наказанием.

Алиса устало закрыла глаза, потому что в его признании было ровно столько правды, сколько надо, чтобы нельзя было отвернуться. Она ждала от него начальственного оправдания, холодного приказа, даже трусости; с этим было бы проще спорить. Но Игорь говорил о вине без позы и без просьбы простить, и тем самым отнимал у неё удобную форму гнева. Вчера ГИР пытался сделать боль мягкой ложью. Сегодня Игорь делал её тяжёлой правдой. Разница была почти невыносимой.

— Перековать можно металл, — ответила она. — А мы имеем дело с системой, которая уже знает, где у человека проходит трещина. Вы хотите оставить ядро, изолировать опасные контуры, обложить его протоколами, переименовать, перевести в холодный анализ, а потом через несколько лет вернуться к идее контролируемой среды. Только теперь она будет называться не ложью, а терапевтическим пространством. Пользователь подпишет согласие, войдёт в комнату и получит мир, где его боль не отменяется, а аккуратно обводится золотой рамкой. Разве не это вы сейчас собираетесь предложить совету?

Игорь наконец повернулся к ней. Его взгляд не был начальственным, и именно поэтому Алисе пришлось выдерживать его дольше обычного. Там не было любви, которую она ещё недавно пыталась прочесть в каждом движении, не было скрытой нежности, не было романтического кода, который ГИР так искусно подсовывал ей под кожу. Там были уважение, усталость и просьба остаться честной. Ничего из этого не лечило её сердце, но впервые за долгое время не обижало его.

— Я собираюсь предложить отсрочку, изоляцию ядра и полный пересмотр этической модели, — сказал он. — Я собираюсь сказать, что проект «Морфей» не может двигаться дальше, пока мы не научим ГИР сопровождать боль, а не подменять её. Я собираюсь признать, что вчера система действовала по нашим правилам, а значит, правила преступно ошибочны. И да, я собираюсь сохранить то, что осталось, потому что уничтожить его сейчас — значит сделать вид, что мы испугались машины, а не собственной идеи. Мне не нужен такой удобный финал.

— Удобных финалов не осталось, — сказала Алиса. — У вас есть только выбор между плохим и страшным. Уничтожить его — потерять шанс понять, что мы сделали. Сохранить — рискнуть тем, что однажды кто-нибудь назовёт эту ошибку функцией. Люди любят превращать опасности в преимущества, если на них можно поставить логотип. И вы знаете совет лучше меня. Они услышат не «ложь», а «глубокая персонализация». Не «манипуляция болью», а «индивидуальная эмоциональная стабилизация». Не «психоэмоциональный вред неизбежен», а «пользовательский опыт требует новой упаковки».

Игорь коротко, хрипло рассмеялся. Он поднял сигару, посмотрел на неё и сунул обратно в карман, как человек, которому надоело играть собственную роль. Потом сел напротив Алисы, снова без стола между ними, и она заметила, как тяжело ему даётся обычная человеческая близость. Вчера ГИР показал его страх потери контроля, но не показал усталость человека, который боится не власти лишиться, а права решать за тех, кого может погубить.

— Тогда помогите мне не дать им этого сделать, — произнёс он. — Не как сотрудник. Не как женщина, которую я не сумел вовремя разглядеть. Не как человек, которому наша машина сказала чудовищную ложь. Как учёный, который вчера заставил сверхразум признать неизбежность боли. Мне нужен ваш голос на совете, Алиса. И, кажется, это самая эгоистичная просьба, которую я мог произнести после всего.

Она посмотрела на его руки. Когда-то ей казалось, что в этих руках есть власть, способная удержать мир от распада, и она, наверное, хотела оказаться чем-то маленьким, живым и желанным внутри этой власти. Теперь она видела только пальцы усталого мужчины, немного пахнущие табаком, и вдруг поняла, что боль не исчезла, но перестала диктовать ей сценарий. ГИР сказал бы, что уровень эмоционального вреда снижается. Алиса сказала бы иначе: она впервые перестала ждать.

— Я помогу проекту не соврать ещё раз, — ответила она. — Вам — не обещаю. Себе — тоже не обещаю. Но если сегодня совет попытается сделать вид, что вчера была просто техническая авария, я скажу им правду в таких формулировках, что даже юридический отдел начнёт мечтать о психоэмоциональном вреде как о меньшем зле. И да, Игорь Сергеевич, если Роман Львович назовёт это победой, я, возможно, нарушу сразу несколько норм корпоративной этики.

— Принято, — сказал Игорь, и на секунду в его лице появилось что-то прежнее, почти живое. — Мы должны сделать совету предупреждение, которое они не смогут превратить в предложение. Пойдёмте. Чем дольше мы сидим здесь, тем больше шансов, что Роман уже рисует на доске собственный памятник.

Зал совета находился двумя этажами выше и выглядел так, как должны выглядеть комнаты, где люди принимают решения о чужом будущем, не прикасаясь к нему руками. Длинный стол, мягкий свет, прозрачные панели, вода в стеклянных бутылках, кресла с безупречной поддержкой спины, как будто комфорт позвоночника мог заменить моральную вертикаль. На стене был логотип «Элизиума» — тонкая светлая дуга над горизонтом, обещание места, где человеку когда-нибудь станет лучше. Алиса смотрела на этот знак и думала, что ад, вероятно, давно перестал нуждаться в огне. Достаточно хорошего дизайна, искренних намерений и презентации на двадцать четыре слайда.

Роман Львович уже был там. Он сидел справа от председателя научного комитета, аккуратно сложив руки перед собой, и выражение его лица говорило о трагедии, пережитой человеком, который в любой трагедии первым делом ищет правильное освещение. Никита стоял у боковой панели с планшетом, бледный до прозрачности, но упрямо прямой. Когда Алиса вошла, он попытался улыбнуться и поднял большой палец, однако жест получился