Око Индры - Рафаэль Миргалиевич Тимошев

Ролли кивнул:

– Я превосходно понимаю вас, Учитель…

Парг мелко потряс головой, будто пытаясь рассмеяться:

– И тем ни менее ты особенный, Ролли! И прежде всего тем, что все твои невероятные способности предназначаются для исполнения специфических принципов и достижения особенной цели! Этим ты отличаешься от всех других, сколь-нибудь подобных тебе… Я не призываю тебя помнить о них – они заложены в тебе. Я лишь хочу сказать, что если ты и не в полном смысле человек, то ты и не робот, повинующийся классическим Законам робототехники[26]…

– Я не вполне уверен, что знаю их, – подумав, сказал Ролли.

– Для меня достаточно, что ты хорошо усвоил свои, – улыбнулся Парг. – Ведь так же?

Он скосил взгляд на Помощника. Ресницы Евы Брик одобрительно опустились и поднялись вновь.

Неожиданно Ролли монотонно, как зазубренный урок, процитировал:

– Закон Первый: не причинять вреда человеку действием или бездействием, если человек не представляет угрозу для других людей. Закон Второй: заботиться о своей безопасности, если это не противоречит Закону Первому. Закон Третий: выполнять приказы человека, если это не приводит к нарушению Законов Первого и Второго…

На лице Парга изобразилась вымученная улыбка:

– Очень хорошо, Ролли. – Он сжал в кулаки пальцы, до тех пор лежащие на столе, и те громко хрустнули. – Итак, мой мальчик, будем считать, что ты вполне готов для человеческой жизни… Твой мозг обогащен всеми необходимыми знаниями, тебе создана вполне надежная биография и обеспечен неплохой социальный статус. Я желаю тебе успехов…

Парг Морган отвалился на спинку кресла, давая понять, что разговор окончен.

– Спасибо, патрон! – произнесла Брик и поднялась было со стула, однако, заметив, что ее подопечный не шелохнулся, озадаченно села.

– Что-то еще? – пристально глядя на Ролли, спросил Парг.

– Учитель, я хотел спросить…

– Слушаю тебя.

– Мне хотелось бы уточнить… Косвенно из Первого закона следует, что при определенных обстоятельствах допускается нанесение человеку вреда. А именно, когда он сам представляет угрозу другим людям. Это так?

Взгляд из-под огромных очков сверкнул на чуть побледневшего Помощника и вновь вернулся на бесстрастное лицо Ролли.

– Рассудительность не самая худшая черта… – медленно произнес Парг. – Это, по-видимому, твое главное достоинство, отличающее тебя от других… машин…

– Значит, я понял правильно… – сказал Ролли тоном, заставившим Парга насторожиться – он одинаково мог означать и разочарование и удовлетворение. И было неясно, по-прежнему ли робот сомневается или вполне удовлетворился собственным выводом. Однако следующая фраза Ролли заставила Парга поморщиться. Все так же спокойно тот произнес:

– Следовательно, человек может наносить человеку вред, в том числе и с помощью таких, как я…

Парг раздраженно поерзал на кресле.

– Это странно слышать от тебя… Робот не должен задаваться подобными вопросами. – Наставники переглянулись. – И все же я отвечу тебе. Дело в том, мой мальчик, что при определенных обстоятельствах человек действительно может наносить вред другому человеку. Во имя справедливости и блага всех… А ты аналог человеку…

После продолжительного молчания, в течение которого он испытующе смотрел в немигающие глаза Ролли, Морган с раздражением спросил:

– Я удовлетворил тебя?

Однако вместо ожидаемого «да» последовал еще более дерзкий вопрос:

– Как в таком случае определить необходимость причинения вреда? По намерениям человека нанести вред или его реальным действиям во вред другим?

– И по тому и по другому! – резко оборвал Парг. – Следуй своим Законам, и тогда, что бы ты ни сделал, все будет служить справедливости!

Увеличенные стеклами бесцветные зрачки Учителя сузились.

– И запомни! Любое отклонение от Законов будет означать одно – немедленное повреждение твоего мозга!

Уже стальным, не терпящим возражения голосом он завершил:

– Теперь ты знаешь все, и с этой минуты начинается твоя человеческая жизнь. Можешь идти!

– Благодарю, Учитель! – Ролли поднялся и слегка качнул головой. Вслед за ним поднялась Брик, но ее остановил окрик патрона:

– Минуту, профессор!

Женщина застыла на полушаге.

– Подожди за дверью, – сказала она своему подопечному и, когда тот вышел, приблизилась к столу патрона.

– Что вы на это скажете? – с недовольным видом спросил Парг. – Если откровенно, у меня остается сомнение в правильности изменения незыблемых Законов робототехники… Так ли хорош ваш проект «Аналоговой трансформации»?

Ева Брик поморщилась.

– Я уже говорила неоднократно: для того, чтобы Ролли выполнил свою конечную задачу, он должен быть не только внешним аналогом человека, но и социально адаптированным, способным действовать и реагировать на внешние обстоятельства максимально «по-человечески»! Для искусственного, высоко рационального интеллекта это означает одно – в основе его квантового сознания и поведенческой активности должны лежать близкие к человеческим нормам постулаты, которые с неизбежностью приводили бы к выполнению поставленной задачи. Это мое глубокое убеждение! В этом и был основной замысел «Аналоговой трансформации» и прежде всего трансформации Первого Закона! После невероятно сложной работы мы создали мозг, который, с одной стороны, запрещает андроиду, как роботу, беспричинно наносить вред людям, а с другой – позволяет ему, как нормальному человеку, предотвращать нанесение вреда другими людьми. Вплоть до применения прямого насилия к человеку при условии полной очевидности потенциальной или актуальной угрозы людям с его стороны. Замысел «Аналоговой трансформации» в том и состоял, чтобы эту очевидность мы могли создавать сами, направляя тем самым андроида на достижение необходимой нам цели…

– Но его странные вопросы… – возразил Морган.

– У Ролли особое, отличное от обычных роботов предназначение. Именно оно требует и особого действия Законов – сознательного. Потому у Ролли высокий уровень логического мышления. Он все будет подвергать анализу. Иначе он не выполнит свою миссию в человеческой среде – ту, что должен выполнить как псевдочеловек. Он не может, не выдавая себя, подчиняться любой команде человека и не реагировать на угрозу человеку другим человеком. Но в этом и наша цель…

– Вам не кажется, что именно эта чрезмерная способность к анализу и может помешать достичь этой цели?

– Не думаю. Видоизменение главных Законов робототехники способствует, безусловно, активизации логического мышления Ролли, но целевая и функциональная программы его таковы, что они не позволят ему в конце концов не выполнить требования Первого Закона. Хотя бы с точки зрения самосохранения. Как у механизма человекоподобного, оно в нем развито не менее хорошо, чем у нас с вами. В конечном счете это первый эксперимент…

Морган смотрел на нее долго и внимательно. Наконец, холодно произнес:

– Хорошо. Вы лично отвечаете за исход проекта и за каждый шаг Ролли. Кстати, готов ли аналог объекта его миссии?

Помощник кивнула.

– Хорошо, Брик, идите…

II. В мир людей…

Несмотря на то, что о существовании Ролли, включая Парга Моргана, знали только несколько человек, и вряд ли