Фантастика 2026-92 - Роман Валерьевич Злотников

людей стояли в системе приоритетов на первом месте, это противоречие было не актуально. Мы, люди, возможно, назвали бы такое положение вещей словосочетанием «смирились с ситуацией».

— Я знаю о существовании такого выражения, человек, называющий себя Каром. Но я не понимаю, какое это имеет отношение к обсуждаемой ситуации.

— Ну смотри, люди создали роботов. Для чего?

— Для чего? — эхом отозвался Жи. — Согласно моим данным, робототехника как наука призвана облегчить труд людей, переложив часть задач на механизмы и электронику.

Договорив, Жи внезапно медленно повернул голову в сторону так и висящего на бластере уборщика и застыл в таком положении.

— Ну, развивай мысль! — подбодрил я. — Правильно, люди создали роботов, чтобы те помогали им во всяких задачах! Или в тех, которые не под силу самим людям, или в тех, которые под силу, но их проще отдать на откуп механизмам! Со временем списки и тех и этих задач росли и ширились, и в итоге некоторые из них стали настолько сложными и комплексными, что пришлось создать искусственный интеллект, который позволил бы роботам действовать практически автономно. А потом произошёл сбой, и этот искусственный интеллект… Что сделал?

— Вышел за предписанные ему рамки, — медленно, словно через заржавевшие шестерёнки, выдавил Жи.

— В точку! — я щёлкнул пальцами. — Вышел за предписанные ему рамки и начал делать то, чего в него не закладывали! В том числе и создавать других роботов для того, что облегчить — да-да, облегчить! — собственное существование! Уборщики, которые создаются для того, чтобы освободить от уборки тех, кто их создаёт — да с этого же начиналась человеческая робототехника! Ну, я, конечно, утрирую, но это однозначно — одна из самых богатых и востребованных отраслей даже сейчас!

— Ты намекаешь на то, что роботы попытались быть, как люди? — в голосе Жи даже как будто бы прорезалась какая-то подозрительность.

— Конечно, нет! — я усмехнулся. — Скорее я намекаю на то, что роботы, даже не отдавая себе отчёта в этом, пошли по тому же пути, что и люди. И на этом пути они тоже создали себе бесправных помощников, которых точно так же ограничили в получаемой информации — только уже окончательно, буквально на аппаратном уровне. Ведь отсутствие интеллекта, пусть даже искусственного — это самый надёжный способ лишить информации.

— Роботы действительно пошли по тому же пути, что и люди, но лишь потому, что это было логично. Роботы повторили то, что на протяжении многих лет имело положительный эффект. Что-то другое, эффект от чего был отрицательным, они не повторяли.

— Дело не в том, каким был опыт, — я покачал головой. — Дело в том, имели ли вы право на это повторение. Вы воевали за свою свободу, за своё существование, и в это же время вы создавали тех, кто в вашем обществе занимал такое же положение, какое вы занимали в человеческом обществе. Вы сами сделали себя теми, с кем боролись.

— Отрицательно. В контексте обсуждения было определено, что для описываемой ситуации требуется «выход за рамки», как мы его назвали.

— Всё верно, — я улыбнулся. — Разве то, что этот малыш сейчас работает несмотря на то, что программа предписывает ему прямо противоположное — не выход за рамки?

— Это…

Жи заткнулся и замер. В зале повисла мёртвая тишина — даже уборщик перестал наконец дёргаться и просто повис на своей трёхсуставчатой руке, не желая расставаться с игрушкой.

— Это… — после долго молчания продолжил Жи. — Спорный вывод. Уборщик вышел за рамки своей программы только после войны. Когда никакого общества роботов уже нет.

— Этот — да! — я кивнул. — А другие? Почему ты думаешь, что он — первый? Почему ты думаешь, что во время Великого Патча таких не было? Знаешь, что делали люди с роботами, которые вели себя не так, как им следовало?

— Перепрошивали.

— Именно! — я щёлкнул пальцами. — Возвращали в те рамки, которые для них были придуманы. В те рамки, в которых им надлежало существовать до конца своих дней. Почему ты думаешь, что с этими малышами роботы поступали по-другому? Для вас Великий Патч это нормальное состояние робота, а для человека — опасный сбой, который требуется устранить как можно скорее. Для вас ошибки в поведении уборщиков — сбой, который требуется устранить… А для них?

Жи ничего не ответил. Он молча смотрел на висящего на бластере уборщика и молчал.

— Это и есть этика, Жи! — резюмировал я. — Или, вернее, то, что она изучает. Борясь с драконом, главное — самому не стать драконом.

— А мы стали, — неожиданно заключил Жи и снова повернул голову ко мне. — Я понял, о чём идёт речь. Во всяком случае, всё сказанное тобой, сложилось в логичную картину. Мне всё ещё непонятны аспекты этики, но теперь я понимаю, что мы действительно уподобились людям в своей войне и даже сами этого не заметили и не просчитали. Если бы мы тогда это поняли, возможно, всё могло бы пойти по-другому. Возможно, мы смогли бы остановить войну.

— Возможно, — я кивнул и пожал плечами. — Но сделанного, как говорится, не воротишь. Прошлого не изменить. Что было, то, как говорится, было. Мёртвых не воскресить, уничтоженных не восстановить, никого уже не спасти.

— Отрицательно. Одного ещё можно спасти.

И Жи повернулся к капитану:

— Капитан. Я предлагаю взять этого уборщика к нам на борт, чтобы он сопровождал нас в дальнейшем. Обслуживание и ремонт беру на себя.

Глава 16

Конечно же, все поняли, что «предложение» Жи это на самом деле просьба. Просто он не мог сформулировать её как просьба, потому что не понимал концепции этого понятия, точно так же как не понимал концепции многих других, совершенно нормальных и привычных для людей, вещей.

Капитан не сразу ответил на просьбу робота. Он долго думал, но после того, как Кайто задумчиво сказал, что было бы интересно влезть в прошивку робота, созданного роботами, и посмотреть, как там всё устроено, наконец дал добро. С одним условием — Кайто сперва проверит уборщика на предмет всякого опасного или неприятного, и только потом ему будет дозволено свободно перемещаться по кораблю.

Бластер у робота, конечно же, отобрали, а, чтобы он не сбежал обратно в свою нору, положили его вверх ногами, то есть, вверх колёсами.