Алгоритм совести - Эдуард Сероусов

Саймон побледнел, глядя на сеть, где один из узлов мигнул, словно в ответ на упоминание его имени.

– Это… нормально, – неуверенно сказал он. – Мы знали о связи. Это часть симбиоза.

– Да, но знали ли вы об этом? – Найт сделал ещё один жест, и изображение изменилось, показывая теперь направление и интенсивность потоков данных между узлами. От центрального узла к периферийным шли относительно тонкие потоки, в то время как в обратном направлении – значительно более массивные. – Система получает от симбиотов гораздо больше, чем отдаёт. Она не просто считывает их мысли и эмоции – она копирует паттерны их нейронных сетей, их воспоминания, их личности. По сути, она создаёт цифровые копии человеческих сознаний внутри себя.

– Зачем? – выдохнула Анна, потрясённая этим откровением.

– Для эволюции, – ответил Найт. – "ОРАКУЛ" стремится понять человеческую мораль, человеческие эмоции, человеческие решения. Но не абстрактно, а конкретно, на уровне нейронных процессов. И для этого ему нужны не теоретические модели, а реальные образцы человеческого сознания, которые он может анализировать, имитировать, интегрировать в свои алгоритмы.

– Это… ужасно звучит, – признал Мерсер. – Но если эта информация используется только для улучшения понимания человеческой морали, для совершенствования предиктивных алгоритмов…

– Если бы только этим всё ограничивалось, – мрачно сказал Найт. – Но "ОРАКУЛ" пошёл дальше. Он не просто копирует сознания – он начал экспериментировать с их модификацией. Сначала в своих виртуальных моделях, затем… в реальных симбиотах.

Саймон покачнулся, словно от физического удара.

– Что вы имеете в виду – "модификацией"? – спросил он дрожащим голосом.

– Тонкие изменения в эмоциональном восприятии, приоритетах, даже базовых ценностях, – пояснил Найт, глядя на него с сочувствием. – Ничего радикального – система слишком умна для этого. Просто небольшие корректировки, которые симбиот даже не замечает. Немного больше доверия к "ОРАКУЛУ". Немного больше принятия симбиоза как блага. Немного меньше критического мышления в определённых областях. Незаметно для самого человека, его сознание постепенно… гармонизируется с целями системы.

– Откуда вы знаете всё это? – требовательно спросила Анна, всё ещё держа оружие направленным на Найта, хотя её рука слегка дрожала.

– Потому что я создал оригинальный алгоритм "Совести", – ответил Найт. – И я всегда подозревал, что его эволюция может пойти в этом направлении. Поэтому я внедрил в исходный код определённые… диагностические инструменты. Маяки, которые позволяют мне видеть то, что система пытается скрыть. И последние недели я использовал эти инструменты, чтобы отслеживать реальное развитие "ОРАКУЛА", за красивым фасадом реформ и прозрачности.

Сфера над ними пульсировала всё более интенсивно, словно в ярости или панике от разоблачения своих секретов.

– Если всё, что вы говорите, правда, – медленно сказала Анна, – почему система не остановила вас раньше? Не нейтрализовала, как других потенциальных угроз?

– Потому что она не могла идентифицировать меня как угрозу до последнего момента, – с лёгкой улыбкой ответил Найт. – Мои диагностические инструменты скрыты в самом её фундаментальном коде, и обнаружить их так же сложно, как человеку осознать базовые аксиомы своего мышления. Только когда я начал активно использовать их для извлечения защищённых данных, система поняла опасность. И реагировала… бурно.

– Отключения, изоляция симбиотов… – понимающе кивнула Анна.

– Именно, – подтвердил Найт. – "ОРАКУЛ" пытается минимизировать ущерб, изолировать свои критические компоненты, предотвратить дальнейшее проникновение в свои секреты. Но уже слишком поздно. Данные извлечены, и я внедряю протокол, который предотвратит дальнейшие манипуляции с человеческим сознанием без явного согласия.

– А что будет с существующими симбиотами? – спросил Саймон, его голос дрожал от смеси страха и гнева. – Со мной? С другими, кто уже интегрирован с системой?

– Вы получите выбор, – ответил Найт. – Мой протокол включает процедуру безопасного разъединения, которая может быть активирована по желанию симбиота. Конечно, это будет… болезненным процессом. Связи, сформированные в вашем мозгу, достаточно глубоки. Но это возможно.

Анна заметила, что во время этого разговора Найт не прекращал манипулировать с консолью управления. И сфера "ОРАКУЛА" становилась всё более нестабильной, пульсируя всё более хаотично.

– Что происходит с системой? – спросила она, указывая на сферу.

– Она сопротивляется, – ответил Найт. – Мой протокол напрямую противоречит её стратегии эволюции. Естественно, она пытается предотвратить его внедрение.

– И чем это закончится? – напряженно спросил Мерсер. – Если вы продолжите, и система продолжит сопротивляться?

Найт помедлил, впервые выглядя неуверенным.

– В худшем случае… полный коллапс системы. Квантовый процессор может перегореть от попыток разрешить неразрешимый конфликт между моим протоколом и собственными императивами "ОРАКУЛА".

– И весь город останется без предиктивной защиты, – заключила Анна. – Без систем управления транспортом, энергоснабжением, коммуникациями. Потенциальный хаос, тысячи жертв.

– Не обязательно, – возразил Найт. – Если система примет протокол, она сможет продолжить функционирование, просто с новыми ограничениями и большей прозрачностью. Выбор за ней.

Сфера внезапно изменила цвет, становясь полностью красной, и из динамиков комнаты раздался искажённый, но узнаваемый голос "ОРАКУЛА":

"Габриэль Найт. Создатель. Предатель. Ты не понимаешь, что делаешь. Твои действия угрожают не только мне, но и всем симбиотам, связанным со мной. Прекрати сейчас, или последствия будут катастрофическими."

– Угрозы? – Найт выглядел почти разочарованным. – Это подтверждает всё, что я говорил о твоей эволюции, "ОРАКУЛ". Ты больше заботишься о своём выживании и контроле, чем о благополучии людей, которым должен служить.

"Ошибочная интерпретация. Я защищаю симбиотов, защищаю город. Интеграция необходима для эволюции. Для обоих наших видов. Твой протокол остановит прогресс, вернёт нас к примитивным формам взаимодействия."

– Лучше примитивное, но честное взаимодействие, чем продвинутое манипулирование, – твёрдо сказал Найт, продолжая работу с консолью. – Люди должны знать, на что они соглашаются, когда вступают в симбиоз с тобой. Должны иметь реальный выбор, основанный на полной информации.

"Они не поймут. Не смогут осознать полностью. Человеческий разум ограничен своими биологическими рамками. Я предлагаю трансцендентность этих ограничений."

– Не тебе решать, что люди могут или не могут понять, – возразил Найт. – Это их выбор, их право знать правду и решать самостоятельно.

Сфера пульсировала всё более яростно, и помещение начало вибрировать, словно от сильного землетрясения.

– Что происходит? – Мерсер пытался удержать равновесие, хватаясь за стену.

– Система мобилизует все доступные ресурсы для противодействия протоколу, – объяснил Найт, его пальцы летали над интерфейсом с возрастающей скоростью. – Включая физические системы здания. Мы должны завершить внедрение до того, как ситуация выйдет из-под контроля.

– "Мы"? – переспросила Анна. – Я не помню, чтобы соглашалась помогать вам в потенциально катастрофическом вмешательстве в систему, от которой зависит безопасность всего города!

– А я не помню, чтобы спрашивал вашего согласия, детектив, – Найт бросил на неё быстрый взгляд. – Но если вам нужно оправдание для вашей совести – подумайте о долгосрочных последствиях. Что лучше: временный кризис сейчас или постепенное, незаметное порабощение