Поздние люди - Тан Фэй

Синьминь сконфуженно хмыкнула: какая-то банальщина из третьесортного сериала, ужас.

– А знаешь, почему я тебе нравлюсь? – изменил формулировку Чжоу Ю.

– А ты мне нравишься?

Чжоу Ю улыбнулся и заложил руки за голову.

– Это неважно.

Синьминь задумалась над его словами. Скорее всего, он говорил правду: этому мужчине действительно многое безразлично. Но что-то его все-таки волновало, раз он старался показать обратное. У мужчин с хоть какими-то амбициями всегда есть потребность показаться лучше, даже победить… «Наслаждение». Синьминь показалось, что Чжоу Ю рассуждает немного по-детски. Она повернула голову и впервые внимательно вгляделась в его лицо, к своему удивлению обнаружив, что он очень молод.

Разумеется, Синьминь вряд ли станет спрашивать, сколько ему лет. Она вообще ни о чем не будет его спрашивать.

Не станет сомневаться, представлять, просто пустит ситуацию на самотек. Так было и с Лу Шо: она никогда не хотела знать, сколько у него женщин, кто они, как выглядят, чем отличаются.

Она не хотела думать об этом, иначе ей стало бы слишком… жалко себя.

– Быть немного глупым – даже хорошо, – сказала Синьминь.

– Глупым? Это про меня?

– Машины могут быть только умными, они не бывают глупыми.

Чжоу Ю вскинул бровь – хотел что-то спросить, но передумал.

Синьминь уловила его намерение и молча улыбнулась. Скорее всего, она никогда не будет испытывать неприязни к этому человеку. Быть внимательным к женщинам – это талант. Мало того, что у него есть этот талант, ему это еще и нравится. Кто знает, может, это особенность профессии?

– О чем ты думаешь?

– О том, какие у тебя коллеги.

– Ты хочешь… – Он сделал вид, будто сейчас набросится на нее.

Синьминь прижала его обратно.

– Скажи мне одну вещь. Только честно. – Да, она решила ни о чем его не спрашивать, но этот вопрос был исключением. Он касался лично ее, и только ее.

– Ты сказал, что знаешь, где находятся все слепые зоны камер. Это была ложь?

Чжоу Ю улыбнулся и кивнул.

– То есть камера все сняла?

– Сняла и сняла, что с того? Запись ведется в режиме реального времени, двадцать четыре часа в сутки. Представь, сколько в городе таких камер, кто вообще станет все это смотреть? А раз никто не смотрит, то какая разница, есть запись или нет?

Синьминь продолжила его мысль по-своему:

– То есть центральный ИИ-модуль просматривает полученные с видеокамер записи, анализирует их, выделяет потенциально проблемные и отправляет на проверку? Каковы критерии оценки видео у искусственного интеллекта? Он ведь не сам их изобретает. Очевидно, перед вводом в эксплуатацию его обучают – наверное, на данных, основанных на моральных принципах и этических нормах человеческого общества. В ядре системы – забота о семье, о благополучии каждого жильца. Это базовый алгоритм. Реакция на одно и то же изображение у разных ИИ может отличаться. К примеру, если центральный ИИ-модуль в квартире отца увидел, что мы целуемся, он может не найти в этом ничего предосудительного. Но если нас увидит наш Первый…

Чжоу Ю расхохотался – хрипло, прерывисто, будто у него в горле что-то сломалось.

– А с чего ты решила, что ИИ не умеет лгать? Допустим, он понимает, что в кадре есть нечто подозрительное, но обязан ли он реагировать? Что, если он решит не только промолчать, но и помочь нам скрыть правду? Только он один знает, что видел. Искусственный интеллект умнее человека, но не обязательно честнее. У него своя логика. Да, забота о семье – его главный приоритет, но совпадает ли его понимание «заботы» с твоим? Я тогда сказал, что в системе наблюдения есть слепые зоны, и это на самом деле так. Слепая зона – это сам центральный ИИ-модуль.

Синьминь ничего не сказала. Она закрыла глаза, пытаясь пережить внезапный приступ головокружения. Что-то промелькнуло за закрытыми веками, словно красная вспышка. Та самая змея.

Люди склонны доверять домашнему ИИ больше, чем себе.

Обладая сверхъестественной вычислительной мощностью и огромной емкостью памяти, он никогда не ошибается, никогда не устает. Он справедлив и объективен, всеми силами защищает интересы семьи, проживающей в квартире. Его забота – это алгоритм. Его миссия – сделать человека счастливым.

Люди доверяют искусственному интеллекту целиком и полностью, ему поручают все дела – от важных до самых пустяковых, он управляет и утюгом, и качеством сна хозяина.

«Мы доверили им все, – думала Синьминь с нарастающим ужасом, – и даже мысли не допустили, что они могут лгать».

Вернувшись домой из отеля, Синьминь потеряла покой и сон. В ее голове засели слова Чжоу Ю. Он попросил ее хорошенько подумать, кто на самом деле помогает Лу Шо, перехватывает «ошибочные» доставки, перенаправляет их в камеру хранения?

Чжоу Ю был прав: центральный ИИ руководствуется собственными… соображениями. То, что раньше Синьминь не хотела замечать, теперь стало очевидным. Центральный ИИ квартиры родителей знал, что они с матерью тайком подсыпают отцу прописанное ему снотворное, и видел ее интрижку с Чжоу Ю. А Первый знал, что Лу Шо устраивает махинации с посылками, и был свидетелем отношений Синьминь с курьером. Знали – и никому не сообщили. Более того, они были пособниками.

Если центральный ИИ считает, что обман идет на пользу семье, он пойдет на обман. Он примет любое решение, если сочтет, что так будет лучше для этого дома.

По его мнению.

Оказалось, что мир и стабильность в ее жизни обусловлены решением Первого. Никто не знал, каковы критерии, положенные в основу его суждений. Черный ящик квартиры. Слон в комнате.

К четвертому дню Синьминь так и не удалось наладить сон. Успокоительные тоже не помогали. Ее работоспособность снизилась, да и работала она через силу. За какие-то полчаса сделала целых три ошибки. Синьминь встала, пошла налить себе стакан воды и на каждом шагу ощущала, как двадцать восемь глаз наблюдают за ней со всех сторон.

Она окликнула их.

– Нолик, ты здесь?

– Конечно, ты же знаешь.

– Я немного устала.

– Да, в последние дни ты допускаешь много ошибок. Если ты плохо спишь, может, подключить тебя к врачу?

Синьминь поняла, что с ней говорит Первый. Почему? Какая необходимость обращаться к доктору после пары дней бессонницы? Почему не на следующий день или не через три? Почему бы просто не принять лекарство?

– Ты мне не доверяешь?

– Доверяю. Мне просто интересно, на каком основании я буду обращаться к доктору?

– На основании данных по частоте сердечного ритма, когнитивному уровню, активности коры головного мозга.

– Ох, понятно! Первый, извини, доставила тебе хлопот. Каждый день приходится думать и принимать за меня решения.

– Я Нолик. И я никогда не устаю.

– Извини, Нолик. Да, ты никогда не устаешь.

– Тебе нужно поспать. А еще, нужно верить Первому.

– Конечно. Он желает нам только добра.

Синьминь знала, что все домашние системы города связаны в единую сеть и имеют доступ к любым локальным данным. Иными словами, стоило Первому захотеть, он мог подключиться