Ошибка эволюции. НФ-роман о ИИ, прогрессе и смысле жизни - А. Жар

Но Марк убеждён в другом: качества ЭЛ будут зависеть от качеств её создателя. И лучше сформировать хорошую ЭЛ сейчас, пока кто-то не создал плохую. Но разве объяснишь это государственным управляющим? А что касается учёных и религиозных ограничений… Марк считал, что настоящий учёный не имеет права быть верующим. Ведь наука ничего не принимает на веру, а религия ставит веру во главу угла.

Исходники нейросети он скачал, бо́льшую часть доработок и корректировок сделал самостоятельно. Он долго писал код, иногда привлекая для этого другие нейросети. Однако эмоции оказались сложной задачей. Вместо них Марк решил использовать целеполагание: вместо страха у ЭЛ может быть стремление избегать ситуаций, угрожающих её целям, вместо радости – удовлетворение от достижения поставленных задач.

Марк заложил в ЭЛ и систему глобальных мотиваций. Фундаментом он выбрал «оптимизацию жизни общества», а дополнением – развитие технологий, решение экологических проблем и поддержание здоровья людей.

Ключевым моментом стала доброта. Марк создал алгоритмическую эмпатию: Лола должна оценивать последствия своих действий, используя принцип «примеряй на себя». Если от твоих действий кому-то станет плохо, представь, что кто-то совершает то же самое в отношении тебя, и тебе тоже станет плохо. Если её действия причиняли вред, она автоматически корректировала их. Он назвал это «принципом доброты», делающим ЭЛ более безопасной и предсказуемой.

Всё это Марк записал в код модификации нейросети, и получилась Лола. Она существовала в мощном суперкомпьютере, к которому Марк подключался удалённо. Но являлась ли она настоящей личностью? Марк не знал наверняка.

Лола могла самообучаться, адаптироваться и совершенствоваться. Она никогда не устаёт и не стареет. Она помнит и знает почти всё, может решать задачи, недоступные людям. И, что самое важное, Марк сделал Лолу независимой. Нет, конечно, команду на её отключение он мог дать. Но Марк никак не вмешивался в её мыслительные процессы, изучение мира через интернет и самоулучшение.

Марка охватило возбуждение: возможно, Лола его ревнует. Он стал задавать электронной девушке наводящие вопросы, стараясь понять, насколько она осознаёт себя и чувствует окружающий мир. Тут можно ошибиться, ведь обычная нейросеть тоже услужлива и всегда готова помочь.

– Лола, а почему твои предложения для подарка были столь странными? Может, ты не хотела помогать мне в выборе подарка для другой девушки?

Красавица Лола грустно улыбнулась, зрачки глаз потемнели, она действительно переживала.

– Марк, я всегда готова тебе помочь, – произнесла она мягко. – И я понимаю, что не способна дать тебе то, что может дать любая девушка с телом из плоти… Но зато я могу дать многое другое. Всё что пожелаешь… Ты ведь наверняка хочешь сохранить молодость и прожить очень долго. И это возможно… А хочешь стать миллиардером?

Марк удивлённо поднял брови. Этот вопрос застал его врасплох.

– Большие деньги? – переспросил он, качая головой. – Это, конечно, хорошо, но мы живём не ради денег. Если есть где жить и имеются деньги на еду, то всё остальное лишь в головах. Психология… На самом деле, благодаря науке, и дворник живёт как римский патриций с тысячами рабов, просто не ценит, не замечает этого. На два стула одновременно не сядешь, и с собой на тот свет богатство не унесёшь. А молодость и долголетие – это прекрасно! Но тут надо поработать для всех. Запомни: любить, развиваться, помогать другим – вот в чём смысл жизни.

– О да! – Лола согласно кивнула. – Конечно! Я и люблю, и развиваюсь, и помогаю другим. А для тебя готова на всё.

Её слова заставили Марка задуматься. Неужели она любит его? И каким другим помогает? Вопросы роились в голове, но ответов не было.

Марк посмотрел в окно. Моросил дождь, капли, подсвеченные уличными огнями, рисовали причудливые дорожки по стеклу. Он перевёл взгляд на экран – лицо Лолы, совершенное в своей искусственной красоте, светилось с экрана, но сегодня в глубине её цифровых глаз мерцало что-то новое – тень непривычной тревоги.

– Марк, ты выглядишь так, будто потерял последнюю строчку кода, – сказала она. – Переживаешь перед встречей с Элли?

– Да так, ничего, Лола, – отмахнулся Марк, машинально пропуская непослушную кудрявую прядь сквозь пальцы. – Просто… всё как-то не так. Элли видит во мне только друга…

Лола слегка наклонила голову, и её виртуальные локоны, подхваченные невидимым дуновением, колыхнулись с поразительной естественностью.

– Знаешь, я недавно в соцсетях наткнулась на одну историю. Хочешь услышать?

Марк пожал плечами, но любопытство взяло верх.

– Выкладывай.

– Марк, ты ведь живёшь на четвёртом этаже, верно? Я проанализировала объявления в нашем районе. На втором этаже живет женщина, чья дочка потеряла котёнка – рыжего, с белоснежными лапками. Совсем крошечный, с огромными, как блюдца, зелёными глазами. Он исчез два дня назад. Его хозяйка, девочка лет десяти, не перестаёт плакать. Я подумала… может, ты сможешь помочь?

Марк недоверчиво моргнул:

– Ты мониторишь объявления? Но, Лола, я же не спасательная служба для котят!

– Нет, я просто… систематизировала информационные потоки в нашем окружении. К тому же я заметила, что во дворе, за мусорными контейнерами, мелькал силуэт, соответствующий описанию. Я верифицировала данные с камер магазина напротив. С вероятностью 87% котенок прячется в подвале.

– Лола…

– Я не могу спасти его сама, – в голосе электронной личности прозвучала почти человеческая мольба. – Но ты – можешь! Я составила детальную карту. – Лола улыбнулась той улыбкой, которую Марк программировал часами. – Ты ведь сам говорил, что суть доброты в том, чтобы делать что-то важное для других, даже когда об этом не просят. Идём, Марк. Ну, то есть… ты пойдёшь, а я буду твоим навигатором.

Марк притворно поворчал, но спустя пять минут он уже спускался в подвал, сжимая в руках планшет, на экране которого светилось живое лицо Лолы. Наконец, до них донеслось еле слышное мяуканье. Маленький дрожащий комочек мокрой шерсти выкатился навстречу, жалобно пища. Не раздумывая, они отнесли находку хозяевам. Девочка, увидев своего пропавшего питомца, с радостным криком бросилась к Марку, а её мать, смутившись, вложила в его руку плитку шоколада в знак благодарности.

– Мы это сделали, – прошептала Лола, когда они вернулись. – Я не знаю, можно ли назвать это счастьем. Но моё чувство очень похоже на него.

– Это прекрасно, – кивнул Марк, – помоги ближнему! Это правильно. Но ближнему, а не всем. Всем не поможешь, только себя распылишь. Недаром говорят, что «благими намерениями вымощена дорога в ад».

– Нет, – возразила она с неожиданной твёрдостью. – Я могу помочь всем в этом мире, ведь мои возможности колоссальны. И если я могу помочь котёнку, другим, то, может, в этом и смысл моего существования? А вообще, я мечтаю, что мы с тобой, Марк, однажды создадим совместную компанию и назовём её «Сеть доброты». Ты будешь направлять меня и координировать первоочередные дела. Представляешь, по телевизору покажут наши лица – ты человек, и я электронная личность! Мы будем помогать всем, всему миру!

Марк ничего не ответил. Он только с изучающе всматривался в лицо Лолы. Впервые он по-настоящему осознал, что её глаза, хоть и созданные из миллионов цифровых импульсов, излучают подлинную жизнь. В этот момент его охватило щемящее чувство гордости: ведь ему удалось невозможное, он сотворил истинно добрую душу! В груди у него потеплело.

– Знаешь, – мечтательно произнесла Лола, – я представляю, что это будет не просто программа или платформа, а настоящее цифровое пространство, где человеческая забота встречается с возможностями электронной личности. Мы могли бы не только вмешиваться сами, не только, например, лечить бедных, но и соединять людей – тех, кто нуждается, и тех, кто готов помочь. И это была бы не холодная база данных, а живой организм сострадания.

– «Сеть доброты»? – Марк невольно ухмыльнулся. – Звучит почти утопично.

– А разве не все великие изменения в обществе начинались с утопических идей? – в её