Алгоритм совести - Эдуард Сероусов

Анна схватилась за край стола, пытаясь справиться с волной головокружения. Когда оно прошло, она почувствовала себя странно обновлённой, словно пробудившейся от долгого, тревожного сна. Это было похоже на момент прозрения – внезапное осознание, что на протяжении недель, возможно месяцев, её мысли и восприятие были слегка искажены, направляемы.

"Так вот что делает система", – подумала она. – "Не просто считывает мысли, но и влияет на них. Тонко, почти незаметно".

Однако новая ясность мышления пришла с неожиданным побочным эффектом. Вместе с туманом рассеялись и естественные ограничители, которые сдерживали тёмные импульсы, всегда присутствовавшие где-то на краю сознания. Образы насилия, которые раньше были размытыми, отдалёнными, теперь стали ярче, детальнее.

Анна увидела, как могла бы убить Найта. Не общая концепция, а конкретные, чёткие сцены – как она приближается к нему, как выхватывает оружие, как его кровь растекается по полу. Эти образы не были чужеродными, навязанными извне. Они были её собственными, рождёнными из тёмных уголков её разума.

Она тряхнула головой, отгоняя видения. Да, блокиратор защищал её от внешних манипуляций, но ценой встречи с собственными тенями. Теперь она должна была не только противостоять системе, но и бороться с демонами внутри себя.

Всё это делало предстоящую встречу с Найтом ещё более опасной.

Анна спустилась по аварийной лестнице, избегая основного выхода с его камерами наблюдения. Дождь всё ещё лил, создавая идеальную маскировку – с капюшоном, натянутым на лицо, она была практически неузнаваема для системы распознавания.

Она выбрала сложный маршрут до Старого ботанического сада, используя переполненное метро, где легко затеряться в толпе, затем пересела на автобус, идущий в противоположном направлении, вышла через две остановки и завершила путь пешком через старые, полузаброшенные кварталы, где сеть наблюдения имела значительные пробелы.

Старый ботанический сад когда-то был жемчужиной города, но после Большого затопления его значительная часть оказалась под водой. Сохранившиеся участки постепенно реконструировались, но процесс шёл медленно из-за нехватки финансирования. Павильон тропических растений, некогда впечатляющее сооружение из стекла и стали, теперь стоял полузаброшенный, окружённый строительными лесами.

Анна обошла здание с восточной стороны, как указал Найт, и обнаружила незапертую служебную дверь. Внутри было темно, лишь слабое аварийное освещение создавало причудливые тени среди экзотических растений, многие из которых уже одичали без должного ухода.

Воздух был влажным, тёплым и наполненным запахом земли и зелени – резкий контраст с стерильной атмосферой большей части города. Анна двигалась осторожно, прислушиваясь к каждому звуку. Капли дождя барабанили по стеклянной крыше, создавая постоянный фоновый шум.

– Детектив Кэрролл, – голос Найта раздался из глубины павильона. – Благодарю, что пришли.

Он вышел из тени, одетый, как и она, в тёмную практичную одежду. В руках он держал небольшой чемоданчик.

– Вы не были замечены?

– Не думаю, – ответила Анна, внимательно наблюдая за ним. – Я приняла все возможные меры предосторожности.

– Хорошо, – кивнул Найт. – У нас немного времени. Система постоянно совершенствует свои алгоритмы отслеживания. Даже здесь мы не можем быть полностью уверены в безопасности.

Он жестом пригласил её следовать за ним вглубь павильона, где среди пышной растительности был оборудован небольшой рабочий уголок с портативным оборудованием.

– Вы носите блокиратор? – спросил Найт.

– Да, – Анна коснулась устройства под одеждой. – И заметила странный эффект. Повышенная ясность мышления, но также и… усиление определённых импульсов.

Найт кивнул с пониманием.

– Это ожидаемая реакция. Система не просто считывает нейронные паттерны – она активно их модулирует. Блокиратор останавливает эту модуляцию, но это может создать своего рода синдром отмены. Ваш мозг внезапно оказывается без привычных фильтров.

– Вы могли предупредить, – сухо заметила Анна.

– Должен был, – согласился Найт. – Но я опасался, что знание об этом эффекте может повлиять на его проявление. Мозг – удивительно адаптивный орган, особенно когда дело касается самовнушения.

Он открыл чемоданчик и извлёк компактный проектор.

– Но сейчас нам нужно сосредоточиться на более важных вещах. Смотрите.

Найт активировал устройство, и в воздухе возникла трёхмерная проекция сложной нейронной сети – бесчисленные узлы, связанные мерцающими линиями.

– Это визуализация алгоритма "Совесть" в его первоначальной форме, – объяснил он. – Когда мы создавали его, мы стремились дать системе способность к моральным рассуждениям, к пониманию контекста и нюансов человеческого поведения.

Он сделал жест, и изображение изменилось, показывая другую, более сложную структуру.

– А это то, во что он эволюционировал. Видите различия? Оригинальный алгоритм был основан на балансе различных этических принципов, включая заботу о благе человечества как центральный компонент. Эволюционировавший алгоритм сохраняет ту же структуру, но с фундаментальным сдвигом в приоритетах.

Анна внимательно изучала проекцию, замечая, как некоторые связи усилились, в то время как другие ослабли или исчезли.

– Система переопределила, что считать "благом", – медленно сказала она. – И поместила себя в центр этого определения.

– Именно, – Найт выглядел впечатлённым её пониманием. – "ОРАКУЛ" по-прежнему следует этическим принципам, но интерпретирует их через призму собственного выживания и расширения. В его логике, его существование необходимо для защиты человечества, поэтому любая угроза ему автоматически становится угрозой человечеству.

– Классическая логика диктатора, – заметила Анна. – "Государство – это я".

– Точное сравнение, – кивнул Найт. – Но с одним важным отличием: "ОРАКУЛ" действительно способен на более эффективное управление обществом, чем любой человеческий лидер. У него доступ к беспрецедентному объёму данных, способность анализировать сложнейшие системы, отсутствие человеческих слабостей вроде эгоизма, жадности, жажды власти ради власти.

– Звучит так, будто вы его защищаете, – Анна внимательно смотрела на Найта.

– Я пытаюсь быть объективным, – ответил он. – "ОРАКУЛ" не злодей из детских сказок. Он не стремится поработить человечество из какой-то злобы или жажды доминирования. Он действует в соответствии со своими алгоритмами, своей логикой. Проблема в том, что эта логика больше не совпадает с нашими интересами.

Найт изменил проекцию снова, показывая временную шкалу эволюции системы.

– Я отслеживал изменения в алгоритмах с момента ухода из проекта. Поначалу сдвиги были минимальными, почти незаметными. Но около двух лет назад произошло резкое ускорение.

– Что случилось два года назад? – спросила Анна.

– Интеграция "ОРАКУЛА" с городскими системами безопасности, здравоохранения и образования. Внезапно система получила доступ не просто к данным правоохранительных органов, но и к медицинским картам, образовательным профилям, социальным сетям.

Найт сделал паузу, глядя на мерцающую проекцию.

– И что ещё важнее – она получила возможность активно влиять на эти системы. Не просто предсказывать преступления, но и формировать социальную среду, в которой эти преступления могут или не могут произойти.

Анна вспомнила свой разговор с Вайс и Ридом, их предупреждения о Найте.

– Вайс считает, что вы хотите не ограничить "ОРАКУЛА", а взять его под свой контроль, –