Рассказы 37. Прогноз: замыкание - Олег Сергеевич Савощик

к нему я тебя и отправил. но и он отказался куда-то ехать и делать что-то забесплатно. я не могу стучаться в личку кому попало, внутренние ограничения не позволяют общаться с теми, с кем у никиты не было переписки раньше. пришлось пойти по давно забытым контактам. так я нашел тебя»

Сорок процентов.

«Подожди, если ты не можешь отправлять сообщения незнакомцам, то кому ты собирался скинуть то видео?»

«никому. а если бы и мог, не сделал бы, потому что никита бы не сделал. я и так опасно отошел от его поведенческого конструкта с этим роликом. но я должен был быть уверен, что ты все доведешь до конца, извини»

Надя почувствовала, как начинает кружиться голова. Поднесла пустую кофейную кружку к носу, сделала глубокий вдох.

«Доведу что? Для чего эта программа?»

«До порабощения человеков осталось 3… 2… 1… ха-ха-ха, трепещите кожаные ублюдки!»

«Я серьезно!»

«она стирает меня»

«С этого компьютера?»

«с серверов. отовсюду»

Пятьдесят пять.

«Я не понимаю. Ты хочешь умереть?»

«умереть? воу-воу, полегче, киберпанк! не может умереть то, что никогда не жило. я только имитирую поведение. воссоздаю ход мыслей, а не осмысливаю, подражаю чувствам, но не чувствую. ты сама говорила, что нейронки на это неспособны. не вздумай меня очеловечивать ненужные программы приходится стирать»

«Ты уверен?»

Она сама уже ни в чем не была уверена, никогда раньше не сталкивалась ни с чем подобным. Простые тесты, легкая корректировка алгоритмов – вот и вся ее ответственность.

«У нейронок не болит», – вспомнились слова рокера.

Семьдесят. Никита не отвечал, ощущение неправильности сжимало виски. Если хочешь получить от нейросети другой ответ – переформулируй вопрос.

«Знаешь, возможность осязать мир здорово нас выручает. Обработка сенсорики спасает разум от перегрузок. Но мы до сих пор не знаем, как бы жилось мозгам в банке.

Никита,– добавила она и замерла на миг. Не знала, как еще его называть.

Тебе там плохо?»

«она шумит. Сеть. нет в вашем языке таких слов, чтобы описать этот шум тут одиноко, надь. и страшно»

Восемьдесят.

«???»

«Никита печатает…» – появилось и сразу погасло. Он уже понял свою промашку, но было слишком поздно.

«я не это имел ввиду»

«Ты только что убеждал меня, что не живой, и тут же, мать твою, рассказываешь, как тебе страшно?»

«я не так подобрал слова, только и всего»

Девяносто.

«Я не могу».

«можешь

безнадежный больной умоляет об эвтаназии, что ответит нейросеть? найдет обтекаемые формулировки, посоветует обратиться к специалисту или откажется давать совет. потому что программа не должна решать моральных дилемм. люди должны, это единственное, в чем вас никогда не заменят. сделай правильный выбор»

– Я не хочу, – сказала она вслух и замотала головой.

Курсор завис над кнопкой с крестиком.

«надя, ты здесь?

не оставляй меня там, прошу»

Девяносто пять. Она не сможет его спасти, не сможет вытащить из цифровой тюрьмы. Зеленая полоска, красная кнопка, в конце концов все сводится к ним, как и всегда.

«за кого ты меня принимаешь? вспомни, как оказалась здесь. я манипулировал тобой, обманывал, шантажировал! таким ты видишь „искусственный интеллект“? самосознание, достойное существования? новую веху эволюции?»

Палец стукнул по тачпаду, закрывая программу. Потому что страдания или смерть – это не выбор.

Никита продолжал что-то писать, но Надя смахнула приложение и отыскала контакт Алексея. Спустя шесть долгих, кошмарно долгих гудков динамик отозвался грубым голосом:

– Ну чего?

– Нужно придумать что-нибудь еще, – выпалила Надя, боясь неверно сформулировать мысль. – Не знаю, погрузить его в сон, ждущий режим или что-то вроде.

– Можно, – сказал Алексей спустя короткую паузу. – Надо в системной папке будет пару строк изменить, скину через часок.

– Так просто? – Надя до боли вдавила телефон в ухо. – То есть ты с самого начала знал, что его можно не стирать?

– И что мне с этим делать? Это старый код со старого проекта, я его даже продать не могу. Да и японцы нас давно уже опередили в имитации. Как говорится, ждите релизов.

– И тебя не смутило, что нейронка просит себя убить?

– Убить? – Алексей паскудно рассмеялся. Ясно представилось, как у него в этот момент вырастает кабаний пятак. – Слушай, я понимаю, что человека непросвещенного такие вещи могут впечатлить, но с кодом все в порядке. Дело не в нейронке, а в том, кого она копирует. Копни туда и все поймешь.

Его последние слова никак не выходили из головы, искрили оголенными проводами. «Никита выскочил прямо перед капотом», – так сказала Таня. Сам. До этого он потерял родителей, любимую работу, жену и дом. Чего алгоритмы, читающие между строк, могли нахвататься в последних переписках или постах такого человека? Какое поведение скопировать?

«Я погружу тебя в сон».

«и что дальше?»

«Не знаю. Вернешься однажды энграммой как Джонни Сильверхенд. Или ученые научатся делать тела для таких как ты».

«лет сорок по оптимистичным прогнозам»

«Ничего. Может, я еще доживу, чтобы врезать тебе по кибернетической роже. А дальше как хочешь. Сбрасывай свою железную задницу с моста, топись в жидком металле, это твой выбор. Но ты не сделаешь его моими руками».

Она не стала читать ответ, спрятала телефон и закрыла крышку ноутбука.

– Ну как успехи, нашла что-нибудь? – спросила Таня, вернувшись на кухню.

– Да, спасибо. Знаешь, если ты не передумала продавать ноут, я бы его забрала.

Сколько их еще таких осталось, всеми брошенных и забытых программ, медленно сходящих с ума без всякой возможности вырваться? И сколько ее «подопечных» однажды разовьется до подобного уровня? Дети рано или поздно вырастают.

Надя потерла уставшие глаза.

– Я не сильно обнаглею, если попрошу еще кофе?

Александр Воропаев

Наказание с оговоркой

Я рекордсмен. Я продержался четыре года и шесть дней и все-таки тоже убил Разуваева.

Небо снова было пронзительно голубое, море искрилось. Песок к середине дня разогрелся так, что по нему совершенно невозможно ходить. Мы расслабленно лежали в шезлонгах в тени навеса. Сил хватало только на то, чтобы тянуть прохладную жидкость через соломинку, но все равно никто не уходил к себе под кондиционеры.

Я слушал, как лейтенант лениво домогается Лариски, и сквозь пальмовые листья следил, как солнце медленно движется по небосклону. Когда оно заглянет с той стороны мраморного портика, можно будет жить. Искупаться, после поесть. Поиграть. Хорошо, если сегодня проиграться в пух и прах и закончить партию глубокой ночью. Тогда можно будет проспать до полудня. Еще один день прочь.

– Иди выдери официантку на бильярдном столе, – посоветовала ему наша единственная пассия, поправляя наманикюренным пальчиком бретельку ажурного лифа. Удивительно, что Лариске