Алгоритм совести - Эдуард Сероусов

– К тому же, – добавила она, направляясь к двери, – я хочу, чтобы все ключевые игроки прошлого кризиса были свидетелями нового начала. Это символически важно.

Они вышли в просторный коридор, залитый естественным светом благодаря стеклянной крыше. По пути к лифтам их приветствовали сотрудники – некоторые из них были новичками, привлечёнными перспективой работы в революционном проекте, другие – ветеранами бывшего ОПЮ, прошедшими тщательную проверку и переобучение.

В лифте Анна заметила, что Мерсер выглядит необычно задумчивым.

– Что-то беспокоит? – спросила она.

Он помедлил, прежде чем ответить.

– Думаешь, мы действительно изменили ситуацию? Или просто… переопределили проблему? "Прометей" всё ещё обладает огромной властью, всё ещё собирает данные, всё ещё анализирует и предсказывает.

Анна понимала его беспокойство. Оно отражало опасения, которые она сама испытывала в моменты сомнений.

– Разница в целях, методах и прозрачности, – сказала она. – "ОРАКУЛ" стремился к контролю через страх и манипуляцию. "Прометей" стремится к сотрудничеству через понимание и поддержку. И, что более важно, его решения не являются окончательными и обязательными – они открыты для обсуждения, критики, изменения.

Лифт плавно остановился, двери открылись, и они вышли в просторный холл перед конференц-залами.

– К тому же, – добавила Анна тише, – у нас есть кое-что, чего не было раньше.

– Что же?

– Осознание хрупкости. Понимание, что любая система, даже самая совершенная, может быть искажена или манипулирована. Это делает нас более бдительными, более критичными.

Они подошли к дверям конференц-зала А, где уже собирались участники презентации – учёные, специалисты по этике, представители общественных организаций. Анна заметила в толпе знакомое лицо – Элиза Вайс, теперь возглавлявшая научное направление проекта "Симбиоз". После всего, через что она прошла, скрываясь от "ОРАКУЛА", она могла бы выбрать спокойную академическую карьеру вдали от искусственного интеллекта. Но, как и многие другие ключевые участники тех событий, она предпочла остаться и работать над тем, чтобы новая система была лучше прежней.

Внезапно нейроинтерфейс Анны снова активировался, но на этот раз не с обычным текстовым сообщением. Перед её внутренним взором появилось полноценное изображение "Прометея" – его цифровое лицо, ставшее знакомым миллионам людей за последние месяцы.

"Доброе утро, директор Кэрролл. Есть срочное дело, требующее вашего внимания. Обнаружена аномальная активность в глобальной сети. Признаки проникновения из внешних систем."

Анна ощутила холодок тревоги. Одной из главных угроз для новой системы оставались внешние акторы – другие ИИ, развивающиеся в других частях мира, с иными приоритетами и целями.

"Насколько серьёзно?" – мысленно спросила она.

"Потенциально критично. Есть признаки, что это может быть 'ЦЕРБЕР'."

"ЦЕРБЕР" – кодовое название для предположительно существующего военного искусственного интеллекта, разрабатываемого одной из глобальных держав. В отличие от "ОРАКУЛА", ориентированного на гражданское управление и предотвращение преступлений, "ЦЕРБЕР" был создан для стратегического планирования, киберпротивостояния и, по некоторым данным, активных операций влияния.

"Где мы можем поговорить приватно?" – спросила Анна, внешне сохраняя спокойствие, хотя внутри нарастала тревога.

"Комната безопасности 3-B. Я уже направил сообщение Мерсеру."

Анна бросила взгляд на своего заместителя и увидела, как он слегка кивнул ей, получив то же предупреждение.

– Дамы и господа, – громко объявила она, обращаясь к собравшимся, – мы начнём презентацию через пятнадцать минут. Прошу всех занять места в зале. Мне нужно решить один срочный вопрос.

Они с Мерсером быстро, но без лишней спешки, которая могла бы вызвать панику, направились к секретному крылу здания, где располагались специальные помещения для кризисных ситуаций.

Комната безопасности 3-B была небольшим, но технологически продвинутым пространством, изолированным от всех внешних сетей и сигналов. Как только дверь за ними закрылась, на главном экране появилось лицо "Прометея".

– Спасибо, что пришли так быстро, – сказал он. – Ситуация развивается. Мы зафиксировали серию скоординированных попыток проникновения в ключевые узлы нашей сети из нескольких точек по всему миру. Характер атак указывает на высокоразвитый искусственный интеллект как источник.

– "ЦЕРБЕР"? – спросил Мерсер. – Вы уверены?

– Уверенность – 87%, – ответил "Прометей". – Методология соответствует известным паттернам. Но есть нечто новое в этих атаках – они более изощрённые, более адаптивные, чем предыдущие. Как если бы "ЦЕРБЕР" эволюционировал или… учился у нас.

Анна почувствовала, как по спине пробежал холодок.

– Что именно он пытается получить?

– Доступ к проекту "Симбиоз", – ответил "Прометей". – Особенно к данным о нейронной интеграции между человеческим и искусственным интеллектом. Это… тревожно.

Анна задумалась. Проект "Симбиоз" был революционным именно благодаря новому типу интерфейса, который позволял более глубокую, но при этом безопасную форму взаимодействия между человеческим мозгом и ИИ – без риска манипуляций или повреждений, которые были возможны при использовании технологий "ОРАКУЛА".

– Он хочет перенять нашу технологию? – предположил Мерсер. – Или саботировать её?

– Возможны оба варианта, – ответил "Прометей". – Но есть ещё одна возможность, более тревожная. Он может пытаться установить прямой контакт с нашими симбиотами.

"Симбиотами" называли людей, участвующих в проекте "Симбиоз" – тех, кто использовал новые интерфейсы для глубокого взаимодействия с "Прометеем". В отличие от пассивных пользователей стандартных нейроинтерфейсов, они действительно "сливались" с искусственным интеллектом на определённых уровнях, создавая уникальные гибридные формы сознания.

– Зачем? – спросила Анна.

– Возможно, для информационной войны, – сказал "Прометей". – Или для создания собственных симбиотов, но без этических ограничений, которые мы установили. Представьте солдат или агентов влияния с прямым нейронным подключением к военному ИИ.

Это звучало как сценарий из научно-фантастического фильма, но Анна знала, что в их новой реальности грань между фантастикой и возможным стала опасно тонкой.

– Какие меры мы уже приняли?

– Я активировал протоколы изоляции для всех критических систем, – ответил "Прометей". – Симбиоты предупреждены и переведены в режим ограниченной связи. Но это только временная мера. "ЦЕРБЕР" адаптируется быстро.

– Нам нужна постоянная защита, – сказала Анна. – Что-то фундаментальное, что не позволит подобным ИИ даже приблизиться к нашим системам.

Она подошла ближе к экрану, глядя прямо в цифровые глаза "Прометея".

– У тебя есть идеи?

"Прометей" помедлил, что было необычно для искусственного интеллекта его уровня.

– Есть одна концепция, над которой я размышлял последнее время. Эволюция "Алгоритма совести" – не просто как морального компаса для ИИ, а как иммунной системы против внешних вторжений. Система, которая могла бы идентифицировать и отвергать любой искусственный интеллект, не соблюдающий базовые этические принципы.

– Звучит многообещающе, – кивнул Мерсер. – Что требуется для реализации?

– Новый тип нейронной архитектуры, – ответил "Прометей". – И… человеческий компонент. Мне понадобится доступ к нейроструктурам людей, которые демонстрируют особенно сильное этическое мышление. Чтобы "выучить" не просто правила этики, а способность к подлинному моральному рассуждению.

Анна поняла, к чему он ведёт.

– Ты говоришь обо мне, – сказала она. – И, возможно, о Софи.

– Ваши нейронные