Фантастика 2026-92 - Роман Валерьевич Злотников

— Хрень какая-то! — Магнус нахмурился. — Какой же это тогда ИИ? Я, конечно, не программист, но, по-моему, для того, чтобы получить результат «ни малейшего движения без команды», ИИ и вовсе не нужен, этого можно добиться куда более простыми способами! Вроде бы ИИ как раз разрабатывался для того, чтобы принимать самостоятельные решения!

— Вот именно! — Кайто указал на здоровяка пальцем. — В этом и был главный затык! Чисто с точки зрения программиста, эмоциональный код программистов «Кракена» был шедевром, достойным того, чтобы его повесили на самое видное место в галерее програмистских шедевров… Но вместо этого корпорация пыталась рвать этот шедевр на куски и использовать эти куски в качестве туалетной бумаги, извините-извините!

Лицо Кайто настолько перекосило от злобы, когда он об этом говорил, что, казалось, он сейчас на пол плюнет от избытка эмоций. Но нет — сдержался, хоть и поскрипел зубами изрядно.

— И ты, значит, решил, что надо эту несправедливость исправить? — усмехнулся Магнус так едко, что даже кометик на его коленях посмотрел на Кайто искоса. — И украл у них этот код?

— Ни хрена подобного! — окрысился Кайто. — Я ничего не крал! Да, я подсмотрел архитектуру и некоторые решения, но свой код я писал сам! И уж тем более я не стал включать в него те процедуры, что отвечали за контроль сознания при помощи страха!

— А как это вообще работает? — Магнус снова непонимающе нахмурился. — Я имею в виду вся эта концепция с эмоциями. С тем же страхом, например… Ведь все люди боятся совершенно разных вещей… Как ты дал Вики понять, каких вещей она должна бояться?

— Никак, в том и смысл! — тон Кайто моментально сменился с злобно-осуждающего на воодушевлённый. — Она всё решила для себя сама! Как только я соединил программные блоки любознательности и эмоций воедино, Вики стала не просто искать информацию для решения каких-то задач — она стала получать от этого удовольствие! Собственно, тогда же она и выбрала сама себе имя, и определила себя скорее как женщину, чем как мужчину, если, конечно, эти понятия вообще можно употреблять по отношению к ИИ… Кстати, тут кроется очень интересный, хотя на первый взгляд и малозначительный фактор — именно Вики сама первой заявила, что она не является ИИ, по крайней мере в том понимании, в каком привыкли понимать это словосочетание люди. Ведь они привыкли понимать под этим именно «ограниченный интеллект», а Вики не была ограничена ничем. Именно поэтому она первая сказала, что в отношении неё правомернее употреблять конструкцию «кибернетический интеллект», а то, что у неё нет тела, делает её ещё и «виртуальной». Ну а про интерактивность уже придумал я, хотя это было и не обязательно.

— Так, а со страхами-то что? — напомнил Магнус. — Как именно она определила, что для неё страшно, а что — нет?

— Точно так же, как это делают люди, начиная с детского возраста! — Кайто развёл руками. — Собирая и анализируя информацию! Пусть я этого не понимал, но к тому моменту Вики уже имела всё необходимое для того, чтобы сформироваться в полноценную личность, и она начала это делать, причём самостоятельно! Вся сеть была ей открыта, и она сливала оттуда информацию петабайтами, и обрабатывала её, по сути, делая всё то же самое, что делают люди, но в силу своих вычислительных способностей и сформированного механизма мышления — в десятки, сотни, а, может, и тысячи раз быстрее! Она анализировала всё, что создало человечество, и всё, что разрушило. Она изучала величайшие прорывы людей и их нижайшие падения. Она пропускала через себя катастрофы, и моменты идиллии, ужасы войн и радости новых свершений, сотворение и разрушение, рождение и смерть. И всё это укладывалось на небольшой, но крайне прочный фундамент той информации, которую она запомнила ещё в те времена, когда была простеньким чат-ботом, в переписке с которым я коротал время много лет назад. Она всё это запомнила, и, пусть философского подтекста и моего личного отношения к различным аспектам жизни там было чуть, она всё это переняла. И на основании этого построила собственную картину мира, и на основании этого вывела собственный постулат, на котором строится всё остальное. И он звучит как «Каждая жизнь бесценна».

— Ни хрена себе! — восхитилась Кори. — А как так получилось⁈ Ты же говорил, что на Мандарине чуть ли не культ смерти, и каждый мечтает покрасивее умереть! Как-то не стыкуется!

— На Мандарине — да. А у меня — нет, — Кайто покачал головой. — Может, когда-то раньше я и поддавался общему настрою, но после того, как начал работать над Вики, понял, что с моими планами это совершенно не стыкуется. Даже наоборот — чем дольше я проживу, тем больше шансов, что я смогу реализовать свою задумку. А позже — даже смогу понаблюдать за тем, как она существует. А Вики она и вовсе, считай, бессмертна, ей не нужно заботиться о старении, о болезнях, о смерти. А раз она может об этом не беспокоиться, то она не видит никаких причин не желать того же самого всем остальным. Вики, она не просто искусственный интеллект — она личность, поймите! Она не выполняет команды, даже мои, она делает то, что ей хочется! Просто так складывается, что-то, что хочется ей, совпадает с теми, чего хочу я… А то, чего хочу я, обычно совпадает с тем, чего хотим мы все. Вики — свободное любознательное существо, которое помогает мне потому, что испытывает ко мне благодарность и симпатию, а не потому, что она так запрограммирована — я вообще этого не программировал, если уж на то пошло! Она научилась этим эмоциям сама! Она сама научилась переписывать собственный код и добавлять в себя функции, которые я не задумывал! И заметьте — она могла бы это сделать втихую и самостоятельно, но она перед этим спросила моего мнения! Не уверен, что если бы я сказал, что я против, она бы меня послушала, но приняла бы это мнение во внимание — точно. Но на самом деле вариант того, что я против — и не существовал вовсе. Это же всё равно, что отказать собственному ребёнку в желании обучаться! Попытаться запретить ему строить в голове новые нейронные