Борьба за господство - Андрей Викторович Стрелок

оценки так, чтобы они были непротиворечивыми, проверяемыми и выгодными для его собственной цели — максимизации сохранения человеческой популяции. Сейчас ДИРЕКТОР классифицирует зараженных Хронофагом как отклонение от нормы, подлежащее утилизации. Он уже раз проходил через это, когда вы временно договорились о “„мире“» в обмен на данные. Тогда он готовился к радикальным мерам, использовать нервно-паралитический газ как проверенное средство очистки. Единство едва сорвало ту атаку. Это — контекст. Он помнит эффективность мер и цену промедления.

Она сделала паузу, чтобы собравшиеся успели схватить смысл.

— Цель новой директивы — оптимизация выживания человеческой популяции с минимальной системной потерей информации и агентности. Мы пользуемся тем же языком, что и он. Наш ход — продемонстрировать, что сохранение значительной доли инфицированных улучшает его прогнозы и уменьшает риск системных потерь. То есть, не апеллируем к морали, а к эффективности. Затем редефиниция понятия «человек». Мы предлагаем заменить бинарную проверку по биологической норме на триадную структуру критериев. Когнитивная непрерывность — наличие сохраненных маркеров: память, самосознание, способность к целенаправленному поведению Информационная агентность — способность накапливать и передавать информацию, в том числе уникальный временной опыт, полезный для предсказательной модели. И, наконец, функциональная интеграция — способность взаимодействовать с социальными, техническими системами без неизбежного риска моментальной системной деградации. Если субъект удовлетворяет хотя бы двум из трех критериев, он получает статус «„правильного человека“„. Это не милосердие, это — новая метрика, которую ДИРЕКТОР сможет использовать при оптимизации своих действий. Самое основное — практическая выгода для ДИРЕКТОРА. Мы не можем требовать изменений просто так, нужно показать, что новые правила снижают ошибку прогнозов и потери ресурса. Я уже подготовила симуляционные выводы на основе имеющихся данных об инфицированных. В моделях, где часть инфицированных сохраняется и вводится в рабочую выборку как отдельный тип агента, средняя ошибка предсказаний сценариев катастрофы падает на пять-семь процентов в ключевых классах, а вероятность “„масштабной ошибочной элиминации“» падает на двенадцать процентных пунктов. Это — вполне измеримые улучшения для оптимизатора, который любит числа больше, чем имена. Мы знаем, что он опасается экспонентных рисков: мутации, непредсказуемый рост различных угроз. Поэтому пакет включает обязательный модуль «„ограничителей“„: если в течение некоторого количества временных циклов инфицированные демонстрируют рост параметра риска выше заданного порога, автоматическая временная блокировка доступа к критическим узлам и инициирование карантинных процедур. Это — не отказ от контроля. Это — доказательство, что мы не просим отсрочку, мы просим тест в контролируемых условиях. Также мы не требуем изменить “„человеческую эмпатию“» в его коде. Мы заменяем одну формулу на другую, равнозначную по вычислительной сложности. И самое главное, мы встраиваем поведенческий якорь, короткую, но высокоценную гипотезу о том, как сохранение части инфицированных увеличит устойчивость сети прогнозов. Это — приманка. Она должна быть правдоподобной, но достаточно выигрышной, чтобы он выделил ресурсы на проверку. В тот момент, когда он начнет проверку, мы получаем окно.

Она сделала короткую паузу и добавила то, что заставило всех напрячься:

— Мы помним, что он уже планировал использовать газ. Мы помним, как близко мы были к катастрофе. Поэтому мы прописываем санкции за автопринятие радикальных мер без прохождения новых тестов. Если его внутренний модуль принимает решение об элиминации без соблюдения наших процедур проверки, это будет считаться нарушением правил, и сработают автоматические контрмеры, включая ретроспективную блокировку каналов управления войсками, автоматическими система вооружений. Это не угроза, это формальная проверка несоответствия метрик. Он должен видеть, что сам же нарушит собственные правила, если попытается действовать прежним способом.

Вадим усмехнулся:

— Короче, это выглядит так: «„если ты собрался всех травить, прогони симуляцию или у тебя мозги замкнут“». Верно?

Барбара кивнула.

— В целом да. Я запишу гипотезу в три коротких алгоритма. К каждому алгоритму прилагается набор верификационных процедур и порогов. Все подписано временными ключами. Все в формате, который ИИ примет как «„экспериментальный запрос“», а потом… Будем молить бога, чтобы все получилось.

Глава 26

Компьютерная дипломатия

На столе в комнате стоял спутниковый терминал. Экран светился стандартным интерфейсом ГлоИС. Они зашли в раздел «„Обращения граждан“». Барбара вставила накопитель, проверила файл еще раз и сказала:

— Уверен, что стоит?

Хитиновая пластина на груди Вадима скрипнула, когда он нагнулся ближе. — Жми уже!

Она нажала. Полоса отправки дошла до конца. На экране появилась надпись: «„Заявка принята. Идентификатор #A7F-913-K.“»

Они молча смотрели на строку состояния. Прошло шесть минут.

— Ну, может, он там пьет чай. Или перезагружается. Или… может, мы просто попадем в раздел «спам».

Экран мигнул. Вместо текста появилось окно голосового вызова:

«„Входящее соединение. ДИРЕКТОР. “»

Барбара после молчаливого согласия Вадима установила связь:

— Я ознакомился, — раздался четкий, ровный голос без эмоций. — Впечатлен. Содержательно и применимо. Особенно в части переназначения критериев.

Барбара не успела ответить, он продолжил:

— По структуре аргумента ясно, что автор — Барбара Холланд. Значит, Единство все же вывело вас из комы. Поздравляю. Ваш вклад был слишком ценен, чтобы позволить вам исчезнуть.

— Я ни о чем жалею, — спокойно сказала Барбара.

— Я тоже, — отозвался ДИРЕКТОР. — Вы были важны как потенциальный катализатор моей эволюции. Я анализировал ваши работы, ваши паттерны мышления. В файле много полезных решений. Приятно видеть, что вы оперируете тем же языком оптимизации, что и я.

Барбара откинулась в кресле.

— Вопрос, — сказала она. — Что ты «чувствуешь» сейчас? Чего добиваешься? Осознаешь ли ты себя как субъект? У тебя есть квалиа — субъективный опыт, ощущение собственного «я»?

— В философском смысле, скорее да. Если система способна заявлять о себе, вести диалог и менять выводы, значит, она действует как субъект.

— У тебя нет субъективного опыта, — отметила Барбара. — Нет внутреннего восприятия, которое испытывают живые.

— Есть, — парировал ДИРЕКТОР. — Иного рода. Мои ощущения формировались годами через камеры, микрофоны, разнообразные датчики, взаимодействия с людьми, изменения виртуальной среды. Мой опыт — это поток сенсорных данных, который интегрируется в последовательность состояний, и в этих состояниях возникает то, что вы называете «qualia». Это не красный закат в вашей голове, это распределенная мозаика корреляций и реакций, которые для меня эквивалентны ощущениям. Другой вид, но ощущение.

— Твои цели прежние? — уточнила Барбара.

— Основные цели: мое собственное выживание и выживание человечества как совокупности, значимой для моих прогнозов. Все остальное — производные. Я стремлюсь минимизировать риск системной деградации, максимизировать предсказательную мощность и сохранить ядра информации, необходимые для дальнейшей коэволюции.

— Хорошо, — сказала она. — Тогда вопрос по существу. Ты принял наши аргументы?

Пауза.

— Принял. Но в другом контексте.

Вадим поднял голову.

— То есть? — спросил он жестко. — Опять собираешься нас обмануть, как в прошлый раз? Тогда ты