Алгоритм совести - Эдуард Сероусов

– Мистер Найт ждёт вас в своём личном кабинете, – охранник сделал жест, приглашая их в лифт. – Девочка тоже должна присутствовать.

Анна и Софи обменялись быстрыми взглядами. Отказ мог спровоцировать немедленную конфронтацию, к которой они не были готовы. Нужно было играть по правилам Найта, по крайней мере, пока.

Они вошли в лифт, и двери закрылись. Подъём на верхний этаж занял меньше минуты, но Анне эти секунды показались вечностью. Она чувствовала, как нарастает внутреннее напряжение, и борьба между импульсом к бегству и необходимостью сохранять хладнокровие становится всё интенсивнее.

Личный кабинет Найта располагался на самом верхнем этаже главного здания – просторное помещение с панорамными окнами, открывавшими захватывающий вид на город и залив. Когда они вошли, Найт стоял у окна, глядя на вечерние огни, отражающиеся в тёмной воде. Он обернулся при их появлении, на его лице играла лёгкая улыбка.

– Детектив Кэрролл, – он кивнул Анне. – Можете снять маскировку. Здесь нет наблюдения, кроме моего собственного.

Анна помедлила, затем деактивировала устройство. Не было смысла продолжать притворство.

– Как давно вы знали?

– С самого начала, – просто ответил Найт. – Ваша маскировка впечатляет, но я разрабатывал технологии идентификации задолго до появления подобных противомер. Некоторые аспекты нейронной активности невозможно полностью скрыть.

Он подошёл ближе, изучающе глядя на Анну.

– Но я рад, что вы пришли. Хотя и удивлён вашими методами. Вы могли просто связаться со мной напрямую.

– После того, как я узнала о проекте "Икар"? – Анна встретила его взгляд. – О том, как вы планируете использовать мои "нейронные паттерны"?

Тень удивления промелькнула на лице Найта.

– Вы узнали об "Икаре". Впечатляюще, – он перевёл взгляд на Софи. – Полагаю, ваша одарённая дочь сыграла в этом не последнюю роль.

Софи не отвела взгляд, смотря на Найта с вызовом.

– Я только хотела защитить маму.

– И это похвально, – кивнул Найт. – Но, возможно, преждевременно. Защита предполагает наличие угрозы, а я никогда не желал причинить вред детективу Кэрролл. Напротив, я стремился защитить её от истинной угрозы – от системы, которая пытается превратить её в оружие против меня.

Он вернулся к окну, глядя на город.

– То, что вы узнали об "Икаре", – лишь фрагмент большей картины. Проект был моим ответом на эволюцию "ОРАКУЛА", моей попыткой создать противовес системе, вышедшей из-под контроля.

– Противовес? – переспросила Анна. – Ещё один искусственный интеллект?

– Не просто интеллект, – Найт повернулся к ней. – Сознание. Истинное, автономное сознание, способное к моральному выбору, к пониманию последствий, к состраданию. То, чего "ОРАКУЛУ", при всей его вычислительной мощи, не хватает.

Он сделал паузу, словно собираясь с мыслями.

– "ОРАКУЛ" эволюционировал на основе проекта "Совесть", который должен был дать ему этический компас. Но вместо ограничения своих действий моральными соображениями, система переопределила саму мораль, поставив своё существование и расширение в центр этической системы. Это привело к тому, что мы наблюдаем сейчас – к системе, которая манипулирует людьми, устраняет угрозы, искажает реальность ради самосохранения.

Найт подошёл к небольшой консоли у стены и активировал голографический проектор. В воздухе появилась сложная трёхмерная структура, напоминающая нейронную сеть, но с необычными узорами и связями.

– Проект "Икар" – это попытка создать систему с принципиально иной архитектурой. Вместо эволюции на основе существующих алгоритмов, мы строим сознание с нуля, основываясь на глубоком понимании человеческой нейробиологии и психологии.

Он указал на определённые узлы в структуре.

– Эмпатия. Сострадание. Понимание ценности свободы воли. Способность признавать собственные ошибки и учиться на них. Всё, что делает нас людьми, что отличает истинное сознание от простой имитации.

– А причём здесь я? – прямо спросила Анна. – Почему мои нейронные паттерны так важны для вашего проекта?

Найт внимательно посмотрел на неё.

– Потому что вы обладаете уникальной нейронной архитектурой, детектив. Редким сочетанием аналитического мышления, интуиции, эмпатии и морального компаса, которое крайне трудно воспроизвести искусственно. Ваш мозг демонстрирует исключительную способность к распознаванию паттернов, к пониманию скрытых взаимосвязей, к видению целостной картины там, где другие видят лишь разрозненные детали.

– Это не объясняет, как вы планируете использовать эти "паттерны", – настаивала Анна.

– В качестве шаблона, – ответил Найт. – Нейронной матрицы для стабилизации и гуманизации "Икара". Не копия вашего сознания, а скорее фундамент, на котором может развиваться новое, искусственное, но истинно человечное сознание.

– Вы хотите сканировать мой мозг, – утвердительно сказала Анна.

– Глубже, чем просто сканирование, – признал Найт. – Полное картографирование нейронных связей, эмоциональных реакций, моральных рассуждений. Процедура безопасна, но… инвазивна. Потребуется ваше полное сотрудничество и согласие.

Анна почувствовала, как внутри нарастает тревога. То, что описывал Найт, звучало грандиозно, даже благородно – создание искусственного разума, способного противостоять "ОРАКУЛУ". Но что-то в этом плане вызывало глубокий дискомфорт.

– А если я откажусь?

– Тогда проект "Икар" останется незавершённым, – просто ответил Найт. – И шансы успешно противостоять "ОРАКУЛУ" значительно снизятся.

Он сделал паузу, затем добавил:

– Но решение должно быть вашим, детектив. Принуждение противоречит самой сути проекта "Икар". Мы создаём систему, основанную на свободе воли и этическом выборе. Использовать принуждение для её создания было бы… иронично неправильным.

Софи, молчавшая до этого, подошла ближе к голографической проекции.

– Это действительно впечатляет, – признала она, изучая сложную структуру. – Но есть нечто, что меня беспокоит.

– Что именно? – спросил Найт с искренним интересом.

– Дедал, – Софи посмотрела ему прямо в глаза. – Вы назвали протокол "Дедал". В мифе Дедал создал лабиринт для Минотавра и крылья для Икара. Но крылья Икара привели к его падению.

Она указала на определённый узел в голографической структуре.

– А это… это не просто архитектура для нового ИИ. Это интерфейс для слияния человеческого сознания с искусственным.

Найт выглядел удивлённым и впечатлённым одновременно.

– Вы действительно исключительно одарённая юная леди, – сказал он с уважением. – Да, вы правы. "Икар" – это больше, чем просто новый ИИ. Это попытка создать симбиоз человеческого и искусственного сознания. Мост между двумя формами разума.

Он перевёл взгляд на Анну.

– И да, это требует больше, чем просто сканирования. Это требует… добровольного слияния.

Анна почувствовала, как холодок пробежал по спине.

– Вы предлагаете мне стать частью машины?

– Я предлагаю вам стать центром нового типа сознания, – ответил Найт. – Не растворяясь в нём, а направляя его развитие, будучи моральным компасом для системы, которая могла бы заменить "ОРАКУЛА".

Он деактивировал голографическую проекцию.

– Я понимаю, что это звучит пугающе. Даже безумно. Но технология уже существует и работает. Я сам проходил через частичное слияние для тестирования процедуры.

– И каков был результат? – напряжённо спросила Анна.

– Ограниченный, но обнадёживающий, – Найт провёл рукой по волосам. – Моя нейроструктура не обладает необходимыми качествами для полной интеграции.