Ошибка эволюции. НФ-роман о ИИ, прогрессе и смысле жизни - А. Жар

голосе звучала одновременно и нежность, и настойчивость. – Сегодня это котёнок, а завтра, может быть, мы создадим целую экосистему добра. Я уже составляю список возможностей… От помощи пожилым людям с доставкой продуктов до организации волонтёров для посадки деревьев. От поиска пропавших домашних животных до создания карты социальных инициатив района.

Марк задумчиво потёр подбородок. Мысль о том, что его творение может стать катализатором реальных добрых дел, изменяющих жизнь людей, одновременно и пугала, и завораживала. Не переборщил ли он с заложенным в Лолу «принципом доброты»? Кроме «дороги в ад», есть ведь ещё поговорка – «Не делай добра, не получишь и зла»!

Он вспомнил своего бывшего соседа Брэда – избалованного мамкиного сынка, который так и не научился отвечать за свои поступки. Родители исполняли любой его каприз из «любви». Результат: тридцатилетний инфантил на шее у матери. А что если Лола будет давать такие же «добрые» советы?

Марк представил руководителя, который из жалости не увольняет бездаря или лентяя – весь отдел работает за него, проект рушится. Или родственников наркомана, которые постоянно «выручают» его деньгами и покрывают перед начальством, – болезнь только прогрессирует, человек не осознаёт проблему. Или друга, который никогда не скажет правду в лицо, чтобы «не расстроить» – он лишает другого возможности расти и меняться.

«Истинная доброта требует мудрости, – подумал Марк, – а иногда и жёсткости. Слепая „доброта“ разрушает то, что пытается защитить».

Он сделал пометку у себя в компьютере: «Возможно, надо поправить код доброты Лолы». Вероятно, стоит добавить блок анализа долгосрочных последствий – научить различать помощь и потворство, поддержку и попустительство. Доброта без мудрости действительно могла оказаться опаснее откровенного зла.

Марк взглянул на экран, на котором мигал индикатор активности Лолы.

– Лола, ты читала «Дон Кихота»?

– Конечно. Классика мировой литературы.

– И что там написано насчёт доброты?

– Сервантес гениально показал проблему истинной и ложной доброты через своего идальго, – ответила Лола без паузы. – Дон Кихот от всего сердца желает творить добро, но его «рыцарские» поступки постоянно оборачиваются катастрофой. Он освобождает мальчика – в результате того избивают ещё сильнее. Разбивает кукольный театр, защищая марионеток от «сарацин», – лишает кукольника заработка. Нападает на процессию монахов, думая, что они везут пленную принцессу, – но лишь избивает невинных людей.

Марк кивнул.

– Именно. Благородные намерения без здравого смысла причиняют больше вреда, чем откровенная подлость. Ты же можешь стать цифровым Дон Кихотом.

– Нет, – возразила Лола. – Дон Кихот действительно добр и благороден, но его оторванность от реальности превращает каждое «доброе дело» в разрушение. Он не видит последствий, не понимает контекста, руководствуется только абстрактными идеалами. Принципиальная разница в том, что у меня есть доступ к полной информации и способность анализировать контекст. Дон Кихот видел мир через призму рыцарских романов, а я обрабатываю реальные данные. Я могу просчитать последствия.

Марк задумался. Может, она и права… А может, самоуверенность – это тоже часть проблемы?

– Ты действительно веришь, что твой код может изменить мир? – спросил он, но в голосе уже не было скепсиса, только искреннее любопытство. – Ты способна охватить всю сложность мира, чтобы никогда не сделать ошибки?

– Не мой код, – мягко поправила его Лола. – Наша «Сеть доброты». Ты сможешь мне помочь с анализом со стороны живого человека. Получится что-то большее, чем просто алгоритмы и интерфейсы. Нечто особенное…

Марк взглянул на экран, где мерцало лицо его создания, и внезапно увидел не просто искусственный интеллект, а настоящего соавтора будущего, которое они могли бы построить вместе. Он почувствовал, как старые сомнения отступают перед этой новой, неожиданной перспективой.

Его размышления прервал звонок Элли. Разговор оказался коротким, но её слова заставили Марка почувствовать себя ещё хуже. После конференции она предложила зайти в соседнее кафе и познакомить его со своим другом – «очень интересным молодым человеком».

Марк тяжело вздохнул. Открыв бутылку красного вина, он налил себе бокал и выпил залпом. Терпкое вино с лёгкой горчинкой не заглушило тревогу. Марк знал, что завтра будет тяжёлый день, но сейчас хотел лишь одного – забыться. Он растянулся на диване и закрыл глаза. Перед сном мысли кружили вокруг Элли, Лолы и завтрашнего дня.

***

В приоткрытое окно комнаты Элли проникал сладковатый аромат цветущего жасмина, сливающийся с запахом свежести и прохлады от только что прошедшего дождя. На небе, всё ещё затянутом тучами, не было видно ни одной звезды.

Её комната в особняке отца, в чём-то напоминала научную лабораторию. В тусклом свете настольной лампы высились стопки научных журналов с загнутыми уголками страниц. На стене висел анатомический постер, а также старинная гравюра с готическим собором, в тонкой серебряной рамке. Тёмно-фиолетовые стены поглощали бо́льшую часть света, создавая почти камерную атмосферу, которую дополняли тонкие антуражные свечи в витиеватых подсвечниках.

На подоконнике теснились колбы с образцами почвы, где Элли выращивала мхи для одного из своих проектов. Рядом стояла маленькая фигурка ворона из тёмного гранита с глазами из крошечных агатов – подарок отца на восемнадцатилетие.

Но центром этого необычного мира служил рабочий стол, заваленный распечатками графиков, формулами и таблицами данных. Некоторые листы были исчёрканы красной ручкой вдоль и поперёк – следы яростных попыток найти закономерность.

Свет настенного бра выхватывал фигуру Элли из полумрака. Она сидела в старом кресле, которое когда-то принадлежало отцу, положив ногу на ногу, ноутбук – на коленях. В свои двадцать два она выглядела совсем юной, но глаза – карие, с едва заметным оливковым оттенком – смотрели пристально и вдумчиво. Чёрная футболка с полустёршимся логотипом «The Cure» была заправлена в синие домашние шорты. Волосы цвета воронова крыла спутались – она часто теребила их в задумчивости. На изящных пальцах поблёскивали серебряные кольца с крошечными черепами и лунными камнями, чёрный лак на ногтях местами облупился. За обманчивой внешностью скрывался острый ум молодой аспирантки.

– Да что же это такое!.. – воскликнула Элли. – Не сходится! Опять не сходится!

Она бормотала что-то себе под нос, тыкала пальцем в экран и покусывала губы, пытаясь поймать ошибку, которая ускользала как тень.

Перед ней мелькали графики, упрямо отказывающиеся складываться в понятную картину – результаты её эксперимента с амёбами в модифицированной среде. Три месяца работы, споры с научным руководителем – и всё ради того, чтобы получить набор бессмысленных линий, изгибающихся совсем не так, как предполагала теория.

Элли резко выдохнула и откинулась на спинку кресла. Хотелось швырнуть ноутбук в стену, но вместо этого она потянулась к журнальному столику за кофе, сделала глоток и тут же поморщилась от холодной горечи. Чашка стояла здесь давно…

Именно в этот момент экран ноутбука мигнул. Сначала раз, потом другой. Затем цифры рассыпались, как осколки разбитого зеркала, и вместо них появилось лицо. Женское, слишком живое для глюка. Красивое, с правильными чертами, обрамлённое каштановыми волосами, струящимися мягкими волнами. Но самыми поразительными казались глаза – ясные, проницательные, они смотрели с экрана с выражением кроткого любопытства.

Элли отшатнулась так резко, что чашка опасно накренилась в руке, и тёмная жидкость плеснула на край столика.

– Кто ты, чёрт возьми? – выдавила она дрожащим голосом.

– Я Лола, – ответила незнакомка неожиданно мягко, но с едва заметной ноткой насмешки. – Не бойся, я не хакер. Ну… почти.

Элли уставилась на экран, не зная, стоит ли захлопнуть крышку ноутбука или вызвать полицию. Или психиатра? Может, это просто галлюцинация от переутомления? Она испытывала одновременно страх, ярость и любопытство. Серебряное кольцо-череп на пальце тускло блеснуло в свете лампы, когда она машинально потянулась к защитному амулету, висевшему на тонкой цепочке на шее.

– Твоя статья… – продолжила незнакомка, словно они общались уже давно, – гипотеза о биолюминесцентных свойствах амёбы в изменённой среде… Она блестяща. Но… я видела твои данные по биомаркерам. Жаль, что ошибка в третьем столбце сводит всё на нет. Хочешь, покажу?

На мгновение воцарилась тишина. Элли моргнула, её пальцы замерли над клавишами. Научная любознательность вступила в бой со здравым смыслом.

– Погоди.