Материнская плата - Софа Вернер

– Не нужно, – я откорректировала её алгоритм. – Давай ты включишь режим разговора, я тебе кое-что расскажу, а потом ты ответишь так, как думаешь.

Клянусь, я даже проходила мини-курс под названием «Как управлять машинами, не очеловечивая их», но мне не помогло.

Я открыла ноутбук и начала искать нужный пыльный файлик – вот он, сохранённый чек-лист, который лежал без дела у меня уже давно. У него плохой, совсем не продающий заголовок, но я всё равно вырвала его с сайта за донат. Мне (и многим другим, конечно) по чек-листам жить удобно. Случись что, и мы сразу ищем в социальных сетях хоть какие-то крючки для того, чтобы построить опору заново.

Нелли терпеливо сидела в режиме в ожидания. Я чувствовала ее немигающий взгляд, но, подняв голову, она тут же моргнула при мне. Интересно, заданный ли это алгоритм? Или машина сама сделала вывод, что должна вести себя чуть человечнее, чтобы не смутить свою пользовательницу?

– Мне нужно, чтобы ты оценила меня честно. – Сверилась с чек-листом, почему-то волнуясь, что прозвучу глупо. – Я добра к тебе, Нелли?

– Да.

Нелли ответила быстро и чётко. Я посмотрела ей в глаза – мутные, как и всегда, и внутри никаких признаков человеческого не было видно.

Поставила галочку в первом пункте и продолжила.

– Ты добра ко мне, Нелли?

– Не знаю. – Ответ опять быстрый и чёткий. Я даже уловила лёгкую интонацию в стиле «без обид» в её синтезированном голосе. – Но я стараюсь. Я добра к вам, Мира Ивановна?

«Всё нормально, – убеждала я себя, – в режиме small talk Нелли свободно отвечает, её интеллект искусственно генерирует типичные фразы. Это основано на годах опыта и разработки, это развитие, это не взлом. И это не человечность». Скоро буду повторять это даже вслух, глядя в зеркало. Как мантру.

– Да, ты добра ко мне.

– И к Кристине? – уточнила Нелли, и мне показалось, что она чуть взволнована. Криса же жевала и глядела в потолок, а потом заёрзала на стуле – обычный человеческий ребёнок без проводов и гелиевого реактора внутри.

– К Крисе ты добра особенно, как и должна быть, – попомнила я машине о её предназначении. Та кивнула и опустила плечи, словно успокоилась. Я тоже облегчённо вздохнула и поставила ещё несколько позитивных соответствий в чек-листе. Пока что мы двигались в сторону того, что Нелли была развита в соответствии с задумкой её создателей, и так называемый «вирус» ей не грозил. Но откуда чек-листу знать наверняка, если он был придуман раньше взлома? Очевидно, что я лишь пыталась отстрочить неизбежную поломку, потому что была не готова остаться с дочерью навсегда наедине.

Мы прогнали вслух ещё пару лёгких вопросов про человечность в стиле «ты чувствуешь взгляды на себе?» и чек-лист порадовал результатом – пока что у меня в запасе 88 % стабильности системы внутри Нелли, а это почти идеальный результат.

И вдруг нас настиг последний вопрос, вне чек-листа – и при этом один из самых главных. Криса одновременно с этим начала хныкать, Нелли ласковым тоном попросила её немного подождать. Это нетипично – я ожидала, что Нелли прекратит взаимодействие со мной и займётся своей основной работой. Однако нет, она предчувствовала, что конец теста близок, и послушно ждала его окончания.

– Ты лгала когда-нибудь, Нелли?

– Не могу ответить на этот вопрос.

Я нахмурилась. Раньше так отвечали первые нейро-модели голосовых помощниц, когда не распознавали запрос, но я спросила разборчиво. Отклик должен был быть другим, а в чек-листе не указано даже похожей вариации ответа от машины.

– Ответь, – потребовала я, хотя надо было попросить. Во мне теплилась надежда, что в сложном устройстве её модулей из-за отключения сети всего лишь зависла команда. Но как бы я ни пыталась, мне никогда не хватило бы ума по-настоящему узнать, как и почему Нелли собрана.

– Не могу, Мира Ивановна. – Пауза. Она натянуто улыбнулась, и я будто даже услышала, как трещит механизм внутри, отвечающий за действие искусственных мышц. – Я не знаю, что значит ложь.

Я медленно встала – сначала опустила ноги, затем упёрлась руками в крышку ноутбука. Я посмотрела на циферблат передатчика и прикинула, сколько времени у меня осталось до того, как Нелли по-настоящему проявит своё мнение. Моя машина наверняка могла бы постепенно отредактировать все свои алгоритмы. Я это предчувствовала. Тогда всё, что происходило с искусственными интеллектами за стенами дома, вряд ли обошло бы стороной мою семью. Мне начало казаться, что тревога, которую я испытывала, напрямую связана со стыдом за излишнее использование всех положительных качеств программного обеспечения.

– Ма! – Криса ударила тарелочкой по столу, ответив то ли на мою панику, то ли на предчувствие. Я вздрогнула. – Я покушала!

– Ты умница, вишенка… – сухо отозвалась я, а Нелли, наоборот, сразу переключилась на привычный сценарий поведения. Активно обслужила моего ребёнка и убрала за ней, словно даже не заметив ощетинившуюся женщину в дырявых штанах рядом с собой (меня).

На первый взгляд ничего не поменялось в движениях и действиях. Я хотела бы надеяться, что система внутри Нелли блокировала это странное влияние извне, которое сводило с ума тостер за тостером. Лишение сети сильно негативно повлияло на меня; я так привыкла к информации в моментальном доступе, что без новостей попросту стала сходить с ума.

Когда Криса и посуда были очищены от остатков завтрака, Нелли вытерла руки полотенцем и повесила его, идеально сложенное, на ручку дверцы духовки.

– Составим список дел на сегодня, Мира Ивановна?

– Не сейчас, – я покачала головой. Нелли понимающе кивнула, наклонилась, чтобы обновить воду в автоматическом питьевом фонтане у кошки, а затем распрямилась и застыла, глядя в плотно закрытый жалюзи город.

Меня никогда не пугала Нелли, но теперь мир вокруг вынуждал её бояться. Криса послушно ушла чистить зубы, и я проводила её взглядом.

– Ты не пойдёшь с ней, Нелли?

– Согласно возрастному развитию, Криса должна уметь ухаживать за гигиеной рта без посторонней помощи. Опасных предметов в ванной комнате не обнаружено. Данное действие развивает в ней самостоятельность, – Нелли с готовностью проскандировала мне объяснение из внутренней базы знаний. Я не поверила её тону, почему-то он показался мне неестественным – как если бы я, будучи человеком, старалась подбирать нетипичные для живой речи слова.

– Куда ты смотришь?

– На строительные машины. Они радуют меня, – она наклонила голову, повернулась ко мне и улыбнулась. Кровь похолодела в жилах, как будто вместо моего сердца