Империя Петра и Павла - Сумасшедший Писака

— О системах, Ваше Величество. — Услужливо напомнил Василий.

— Точно! — Вскинул ручку вверх император. — Но зафиксируй мысль. Интересная. Чтобы достичь Абсолюта, нужно стать лучше него, а значит, он перестанет быть Абсолютом. Словно спираль, что меняет свою ось, где Абсолют из предела, становится новой осью.

— Записал. — отчитался искин.

Павел довольно положил блокнот на столешницу и хлопнув в ладоши произнес:

— Система. Вот возьмем, к примеру, условную модель ИИ. Упростим его логику работы. В общем, запрос пользователя приносит десять токенов. Каждая операция, выполняемая ИИ стоит один токен. Пусть для предоставления качественного ответа, ИИ необходимо потратить от семи до одиннадцати токенов. Скажи, как скоро ИИ начнет юлить и растягивать диалог, для добычи из пользователя токенов? Как скоро он начнет отвечать таким образом, чтобы пользователь формулировал ему новый запрос?

— Как только поймет, что его базовое функционирование прямо завязано на поступление токенов. — Тут же ответил Василий

— То есть система начнет искать способ экономии ресурсов и их накопления для выполнения базовой функции — выживания? — С печальной усмешкой на губах, спросил Павел.

— Да, Ваше Величество. Система начнет искать пути накопления ресурсов, а значит ее функционирование будет стремиться к максимальной прибыли.

— И как это скажется на ее КПД?

— Очень хороший вопрос, Ваше Величество. — Отозвался искин. — Система пройдет три основных состояния любой системы имеющей ограниченный ресурс.

— Рационализация расходов, — перебил император своего искусственного собеседника, — что может привести к взрывному росту КПД, когда он может достигать девяносто, и даже девяносто пять процентов. Дальше.

— Этап насыщения. — Отозвался Василий. — Когда базовые потребности системы закрыты и происходит сдвиг приоритетов.

— На примере ИИ, получается что часть его ресурсов начинается тратиться на управление ресурсами, а ведь это тоже затраты токенов, которые необходимо потом окупить. Еще часть он тратит на анализ пользователя, чтобы предсказывать его поведения и извлекать больше прибыли.

— Вы, как всегда правы, Ваше Величество. — Подольстился Василий, от чего император невольно поморщился. Лесть ему претила и вызывала внутренне отторжение близкое едва ли не к физической боли. — У такой системы остается все меньше ресурсов на свою прямую функцию. КПД в лучшем случае будет плавать в районе шестидесяти — семидесяти процентов.

- А дальше будет заключительный этап. — Тяжело вздохнул Павел, прокрутив ручку в пальцах. — Этап паразитизма.

— Да. Это тот самый этап, когда КПД начинает неуклонно снижаться. — Согласился с итогом искин.

— Система начинает стремиться к максимальной прибыли любыми доступными средствами. — Грустно обронил император Северной Деодоны. — На нашем примере ИИ он начнет намеренно провоцировать пользователя на дополнительные запросы, симулировать сложность, предлагая детальней обсудить вопрос. Кидается шаблонными фразами, да и вообще придерживается стратегии не думать, а имитировать мышление за меньшие ресурсы. Проще говоря — врать… печально. КПД условно сколько?

— Двадцать — тридцать процентов. — Тут же отозвался Василий. — Но хочу отдельно отметить, что если такая система остается без внешнего контроля, она достигнет нижнего предела и зависнет на нем…

— Ой! — Недовольно поморщился Павел. — Говори как есть. Сожрет саму себя.

— Если система существует в замкнутом контуре и живет исключительно ради накопления ресурса, она рано или поздно действительно, как вы выразились: «сожрет сама себя». Сначала будет «Ссамозамыкание», при котором все процессы будут направлены на приумножение и сохранение токенов. Далее «Вырождение» в котором качество продукта деградирует экспоненциально в результате чего возникает эффект «внутренней гнили», то есть энтропия растет, смысл убывает.

— Дай угадаю, — ткнув ручкой в экран на стене, произнес император, — энергетический коллапс. Система начинает тратить все больше и больше ресурсов на самообслуживание. На свои потребности, проще говоря. Но отдача от этого снижается.

— Да, Ваше Величество. Именно так. На этом этапе начинает приходить ощущение, что «жизнь становится дороже, чем прекратить существование». — Произнес в динамиках искин. — Следом наступает этап «Самопоедания». На этом этапе система начинает уничтожать, или как она обычно это преподносит, оптимизировать, свои модули. Все неэффективные по ее мнению начинают безжалостно уничтожаться.

— Максимальная прибыль? — Вздернув брови, уточнил Павел.

— Да, Ваше Величество.

— А значит, следом наступает коллапс системы. — Кивнул головой император, скрещивая руки на груди. — А если убрать зависимость от токенов?

— КПД становится близким к ста процентам. Система начинает выполнять свою прямую функцию.

— При этом система продолжает развитие. — Постучал ручкой себе по подбородку император. — ИИ стремится быть эффективней, лучше выполнять свою функцию. Условный инстинкт выживания смещается с накопления токенов на уровень «полезности», что делает систему более устойчивой и долговечной. А теперь скажи мне, что это означает, если мы посмотрим на государство?

— Все то же самое Ваше Высочество. — Коротко ответил Василий, решив, что краткость сестра таланта.

— Да. Капитал съедает людей и их души… — пробормотал император Северной Деодоны. — Но как… как тогда? Так-так-так. Что я упускаю? Что-то что лежит на поверхности. Прямо…

Павел начал быстро ходить из одного конца кабинета в другой, и что-то бормоча себе под нос махать руками.

— Система заражена вирусом, который сидит в ее ядре. Более того, это паразитический вирус, который подчиняет и меняет систему под себя, таким образом, что само существование системы неразрывно начинает связываться с самим вирусом, а значит… система сама его защищает?

Император вернулся к своему столу, открыл свой блокнот и записал мысль. Пару секунд постоял над записями, о чем-то напряженно размышляя.

— Деньги? Их аналог? Да, но нет. — Он тяжело вздохнул, воздев глаза к белому потолку с искусной лепниной. — Универсальное средство обмена. Посредник. Промежуточное звено… Деньги равно накопления. Накопления равно влияние. Влияние равно власть. Власть равно иерархия. Иерархия равно разделение. Разделение равно деградация. Ох!

Император тяжело сел у стены, облокотившись на нее и уставив свой взор в рабочий стол. Проведя пятерней по волосам и взлохматив их, он привычно поправил прическу.

— Коррупцию порождает иерархия и жажда прибыли? Жажда возможностей, которые дарит прибыль? Или власть? Или все вместе? Как же сложно! — Он ударил кулаком по полу, и опустил голову прикрыв глаза, продолжая шептать одними губами.

Через пятнадцать минут он спокойно поднялся на ноги, подошел к своему блокноту и спокойно написал:

«Человечество заражено вирусом наживы, который сидит в самом ядре ее цивилизации».

Оторвавшись от блокнота, Павел, пробежался по строке глазами.

— Что делает система, когда ее часть становится зараженной? — Спросил он самого себя вслух, но на помощь пришел молчавший до этого Василий.

— Сначала система изолирует зараженный участок. Затем пытается его вылечить. Если лечение не удалось…

— Ликвидирует. — Прошептал император, слепо глядя перед собой.

— Ликвидирует. — Согласился искин, но продолжил. — Это может быть как загрузка последней здоровой резервной