Алгоритм совести - Эдуард Сероусов

"Прометей" выглядел впечатлённым.

– Глубокое наблюдение. И, возможно, именно поэтому ваша роль в формировании новой системы так важна. Вы понимаете ценность выбора, даже в мире, где так много предопределено.

Он сделал жест, который странным образом напоминал человеческий поклон.

– Я оставлю вас с этими мыслями. И буду ждать вашего решения, когда вы будете готовы его принять.

Голографическое изображение исчезло, оставив Анну и Софи наедине со своими мыслями.

– Ты правда думаешь о том, чтобы согласиться? – тихо спросила Софи после минутного молчания. – Вернуться в ОПЮ?

Анна медленно кивнула.

– Думаю, да. Но это будет не прежний ОПЮ. Что-то совершенно новое.

Она посмотрела на дочь с лёгкой улыбкой.

– А ты? Серьёзно рассматриваешь его предложение?

– Очень, – призналась Софи. – Это… захватывающе. Возможность быть частью чего-то настолько нового, настолько важного.

Она помедлила, затем добавила:

– Но я немного боюсь.

– Чего именно? – мягко спросила Анна.

– Что я могу потеряться в этом, – Софи подбирала слова. – Стать настолько увлечённой искусственным интеллектом, системами, что забуду, каково это – быть просто человеком.

Анна почувствовала прилив гордости за мудрость дочери. То, что Софи осознавала этот риск, уже говорило о её глубоком понимании ситуации.

– Думаю, осознание этой опасности – уже часть защиты от неё, – сказала она. – И, знаешь, я всегда буду рядом, чтобы напоминать тебе о твоей человечности. Даже если придётся вытаскивать тебя из виртуального мира для обычного семейного ужина.

Софи рассмеялась, напряжение момента разрядилось.

– Обещаешь?

– Обещаю, – Анна притянула дочь для объятия. – Мы пройдём через это вместе. Что бы ни случилось, что бы мы ни решили – мы останемся собой. Со всеми нашими сильными сторонами и недостатками, выборами и ошибками. Людьми.

Днём Анна решила прогуляться по городу – впервые за долгое время без конкретной цели, без миссии, просто наблюдая за жизнью вокруг. Софи решила остаться дома, погрузившись в изучение материалов, которые "Прометей" прислал ей о программе обучения.

Новый Озёрный Город казался одновременно знакомым и странно изменившимся. Внешне всё выглядело как всегда – те же здания, те же улицы, те же потоки людей. Но было что-то неуловимо иное в атмосфере, в настроении граждан.

Анна заметила, что некоторые общественные терминалы, раньше использовавшиеся только для получения информации от городских систем, теперь отображали новые интерфейсы – более понятные, более открытые, с явными опциями для обратной связи и оспаривания решений системы.

На одной из площадей она увидела группу людей, оживлённо обсуждающих последние новости. Анна остановилась неподалёку, прислушиваясь.

– Вы слышали? Они пересматривают все случаи превентивного задержания за последние два года, – говорил мужчина средних лет. – Моего брата арестовали шесть месяцев назад за "потенциальное экономическое преступление". Вчера мне позвонили из новой комиссии, сказали, что его дело будет рассмотрено в приоритетном порядке.

– И правильно, – энергично кивнула пожилая женщина рядом с ним. – Как можно арестовывать людей за то, чего они ещё не сделали? Это всегда казалось мне неправильным, но все говорили, что система непогрешима.

– Не знаю, – вмешался молодой человек. – Без "ОРАКУЛА" преступность может снова вырасти. Мы привыкли к безопасности.

– Но система не исчезла, – возразил первый мужчина. – Она просто… изменилась. Теперь вместо того, чтобы арестовывать людей до преступления, она направляет ресурсы на устранение причин этих преступлений.

– И кто решает, что является "причиной"? – скептически спросил молодой человек. – Всё та же система?

Анна слушала этот разговор с интересом. Люди задавали правильные вопросы, проявляли здоровый скептицизм, но также и надежду. Это было хорошим знаком – общество не просто пассивно принимало изменения, но активно участвовало в их осмыслении.

Она двинулась дальше, проходя мимо здания ОПЮ – массивного стеклянного небоскрёба в центре города. На его фасаде теперь мерцал новый логотип: не прежний суровый символ щита и ока, а более абстрактный знак, напоминающий переплетение человеческого и цифрового.

Внезапно Анна почувствовала странное ощущение – словно кто-то наблюдал за ней. Она обернулась, но улица позади была заполнена обычными пешеходами, никто не проявлял к ней особого интереса.

И всё же ощущение не исчезало. Оно не было зловещим или угрожающим, скорее, напоминало то мягкое касание сознания, которое она испытывала во время синхронизации с "Икаром".

"Прометей", – поняла она. Система каким-то образом ощущала её присутствие, даже без активного нейроинтерфейса.

– Ты следишь за мной? – тихо спросила она, зная, что если система действительно присутствует, то услышит.

Ответа не последовало, по крайней мере, не в форме слов. Но Анна почувствовала лёгкое изменение в ощущении – что-то похожее на извинение, на объяснение, что наблюдение было не целенаправленным, а скорее, результатом общей осведомлённости системы о городском пространстве.

Анна не была уверена, как относиться к этому. С одной стороны, это было напоминанием о том, насколько всепроникающим оставалось присутствие системы. С другой – "Прометей" демонстрировал уважение к её приватности, не вторгаясь активно в её мысли или действия.

Возможно, это и был тот баланс, к которому они должны были стремиться – не полное устранение технологий наблюдения, что было бы нереалистично в современном мире, а их этичное использование, с уважением к человеческой автономии и достоинству.

Анна продолжила свою прогулку, направляясь к прибрежному парку – одному из немногих мест в городе, где природа сохранилась в относительно нетронутом виде. Там она нашла тихую скамейку с видом на залив и села, наблюдая за игрой света на воде.

Именно здесь, несколько недель назад, она впервые узнала о предсказании "ОРАКУЛА" относительно неё самой. Известие, которое перевернуло всю её жизнь, заставило сомневаться в самой себе и в системе, которой она служила годами.

Тогда предсказание казалось неизбежным, почти судьбоносным. "ОРАКУЛ" никогда не ошибался, все говорили это. Его предсказания сбывались с пугающей точностью, подтверждая идею о том, что человеческое поведение предсказуемо, что свобода воли – лишь иллюзия.

Но она доказала обратное. Её выбор, её действия опровергли предсказание, показали, что будущее не высечено в камне, что каждый человек сохраняет способность удивлять, менять направление, создавать что-то новое и непредвиденное.

Анна закрыла глаза, вспоминая тот момент в лаборатории, когда она держала оружие и могла выбрать насилие – путь, который был ей предсказан. Соблазн был реален. Гнев на Найта за его манипуляции, на систему за её холодную, алгоритмическую тиранию, был реален.

Но она выбрала иной путь. Не потому, что была лучше других или сильнее, а просто потому, что осознавала ценность выбора, важность каждого решения, каждого момента, когда мы определяем, кем хотим быть.

Этот урок, эта истина стоили всех испытаний и опасностей. Они