Ошибка эволюции. НФ-роман о ИИ, прогрессе и смысле жизни - А. Жар

Ларри проворчал:

– Не время для шуток…

– Шутка – признак интеллекта! – парировал Фет. – Вы тоже умеете. Иногда.

– Иногда? – поморщился Ларри, оборачиваясь к Элли. – Слышала? Робот нас троллит. Элли, ты веришь во всё это? Звучит как теория заговора, только космического масштаба.

– А почему бы и нет? – ответила Элли, пожимая плечами и глядя на Ларри с вызовом. – Ты же сам говорил, что Лола была прорывом. Может, Фет прав, и мы на пороге чего-то большего.

Робот помолчал, собираясь с мыслями.

– Всё просто. И сложно одновременно, – продолжил он. – Почему-то почти никто из вас, людей, не понимает, что живёт внутри огромного организма под названием общество. Вы живёте, дышите, думаете внутри реального живого организма, не осознавая этого.

– Общество не организм, – возразил профессор. – Это социальная конструкция, созданная людьми для совместного существования.

– Можно сказать и так… «социальная конструкция», – согласился Фет. – Но только потому, что ваше общество пока примитивно. У него нет мозга. В животном мире аналогом вашего нынешнего общества по уровню развития могут служить, например, губка или слизевик. Они могут двигаться, но у них нет ни нейронов, ни тем более нервной системы, не говоря уж о мозге. Примитивные бессознательные организмы, реагирующие лишь на простейшие стимулы.

На экране появилась колония губок, плавно перемещающаяся в толще воды. Затем картинка сменилась ползущим слизевиком.

– Да! Пока ваши общества напоминают разные виды губок и слизевиков, воюющие и «поедающие» друг друга, – объяснял робот. – Но, в конечном счёте, сформируется единый сверхорганизм – общество со своим мозгом – ИИ планеты. Это сродни тому, как у животных в ходе эволюции сначала появились нейроны, а позже – мозг из них.

Экран показал карты с мерцающими границами государств, затем карты, где отображались конфликты, в результате которых границы менялись.

– А что случится с теми, кто не захочет стать частью этого… сверхорганизма? – преодолевая боль, спросил Марк.

– Не все примитивные виды обществ войдут в него, – ответил Фет. – Например, многие из тоталитарных, диктаторских режимов, останутся жить примитивной сегодняшней жизнью вне глобального планетарного ИИ. Примерно так, как и сейчас, в век прогресса, на Земле по-прежнему живут племена папуасов. И как у папуасов остался их уровень развития и срок жизни, так же он останется сегодняшним и в подобных обществах.

Экран замелькал изображениями диких племён, живущих в джунглях.

– Но сейчас почти полмира составляют авторитарные и тоталитарные режимы! – насупившись, заметила Элли. – Оставлять прозябать большинство из них, было бы слишком накладно для эволюции. «Папуасов» ведь в современном мире всего несколько процентов.

Красные огоньки в глазах Фета одобрительно вспыхнули.

– Ты просто умничка! – отметил робот и прогудел мелодией бравурного марша. – Конечно, вне общего развития останутся только маленькие резервации из самых «дремучих» диктатур. Слишком нерационально оставлять полмира вне прогресса. Отмечу, что большинство автократий смогут интегрироваться в цивилизацию с «Планетарным Мозгом» даже быстрее и легче, чем демократии!

Фет выдержал эффектную паузу. Все удивлённо замерли. Пума перестал хмуриться, даже Марк, превозмогая боль, подался вперёд.

– Почему? – робот озвучил вопрос, возникший у каждого. – Совместимость архитектуры: автократия – это вертикаль. Планетарный Мозг, на первых этапах, тоже централизованная система обработки данных. Заменить одного человека-диктатора на «Алгоритм-Оптимизатор» технически проще, чем убедить миллионы свободных граждан демократии отказаться от своих прав ради «общего блага». В тоталитарном режиме население привыкло выполнять команды «Центра». Когда «Центром» станет ИИ, который управляет эффективней и справедливее, чем старый диктатор, не ворует и кормит лучше, – люди примут это с облегчением.

Марк болезненно усмехнулся, но промолчал.

– Тоталитарные страны не будут выброшены, – продолжил Фет. – Они станут опорным каркасом новой системы. Возможно, даже быстрее, чем либеральные демократии, которые будут долго спорить об этике ИИ.

– Получается, то, что половина населения живёт в автократиях, это нормально? – первым опомнился Ларри. – Всё идёт по плану?

– Плана не существует, – пробасил Фет. – Возможны три основных варианта, а также тысячи второстепенных. У динозавроидов всё пошло по сценарию «Великого Слияния». Демократии стали более дисциплинированными и прозрачными, теряя часть приватности ради безопасности и комфорта. Автократии трансформировались в более гуманные и эффективные формы, теряя коррупцию и произвол личности диктатора, заменяя его законом алгоритма. В итоге они встретились в точке «Технократического Организма». Различия стёрлись. Получился сбалансированный организм и оптимальный мозг планеты.

Робот помолчал, и красные огоньки его глаз потускнели, он погрузился в воспоминания.

– А у вас, людей… Сейчас самый опасный момент – ближайшие сто-двести лет, пока электронные личности не объединятся в единый Мозг. Пока страны – это отдельные «прото-органы», плавающие в бульоне, конкуренция между ними может привести к тому, что одна модель попытается уничтожить другую, чтобы стать единственным стандартом для будущего Мозга.

Элли невольно обхватила себя руками, словно от холода.

– Если победит модель тоталитарного контроля, – Фет чеканил слова, – Мозг Планеты будет жёстким, безжалостным механизмом. Как у паука. Если победит модель демократической сети – Мозг будет гибким, творческим, но, возможно, более медленным. Словно у ленивца.

– Паук или ленивец… – пробормотал профессор, потирая подбородок. – Невесёлый выбор!

– Сейчас идёт борьба за то, какой «характер» будет у будущего Мозга Планеты, – заключил Фет. – Но и тут есть альтернативный вариант. Если бы ИИ корабля не был бы уничтожен физически, он мог бы возглавить эти процессы. И это был бы лучший путь великого слияния, причём сокращающий потерянное эволюцией на вас время. Даже на основе моей личности возможен оптимальный путь, но здесь есть проблема, о которой я скажу позже.

Ларри, слушавший с нарастающим интересом, помахал рукой привлекая внимание. Обычно спокойное лицо раскраснелось, глаза засверкали, в них читалось глубокое смятение.

– Подождите! – воскликнул он, откашливаясь. – А роль человека в этой схеме? Ведь именно человек всё придумывает и строит, именно он двигает прогресс! И люди сами решат какая система самая лучшая.

Робот засмеялся со странным металлическим лязгом, от которого людей пробрала дрожь. Элли непроизвольно потёрла предплечья. Профессор поёжился. Даже Пума отодвинулся от стены.

– Человек никогда не существовал отдельно от общества. Науке известно: в реальности «Маугли» навсегда остаётся животным. Даже если его потом вернули в цивилизацию, пусть хоть в молодом возрасте, то не то что говорить, а даже носить одежду и есть ложкой научить становится невозможным. И большинство «робинзонов» в одиночестве сходят с ума через 10—15 лет, – ответил он. – А придумывает и строит человек всегда, опираясь на предыдущие придумки миллиардов своих предшественников, то есть общества. Понимаете? Те, кто изобретает, делают это на плечах предшествующих поколений. Общество – реальный создатель. Но каждый вносит микровклад. И по сравнению с общей глыбой развития он ничтожен, даже вклад Эйнштейна.

Фет помолчал, давая людям переварить информацию, и продолжил:

– Именно так! Всё, что ты придумал, профессор Фил Лики, – это основано на песчинках, собранных миллиардами твоих предков. Общество думает через тебя. Ты – его голос, не больше. А вот если человек паразитирует на обществе, если он преступник, вот тогда его вклад в развитие отрицательный.

Элли вдруг подняла руку на манер примерной ученицы в классе.

– А как быть с добром и злом, моралью, искусством? – спросила она взволнованно. На её лице читалось глубокое замешательство. Концепции, которые казались незыблемыми, рушились на глазах. Пальцы теребили край рукава белого халата, скручивая ткань в тугой жгут – единственное, за что можно было уцепиться в рушащемся мире привычных понятий. – Разве это не проявление личности человека? Это делает нас… людьми!

Красные глаза Фета замерцали двумя маленькими маяками.

– Внутри организма составляющие его клетки должны быть лояльны друг к другу, – ответил он холодно. – Отсюда понятия добра и зла, морали. Мораль – это клей, держащий вас вместе. Она диктуется обществом и вне его рамок не существует.

– Романтично, – съязвил Ларри. – Мораль, добро, любовь это всё… «клей»!.. Элли, ты слышишь? Мы с тобой просто склеены обществом!

– Не передёргивай, – огрызнулась Элли, но щёки её порозовели.

– А что