Нарратив Аллокатора - Павел Сергеевич Иевлев

сегодня представлены только мной, — проворчал старик, осторожно опуская ноги на пол. — Открой документ, вернусь из санузла и дочитаю. Надеюсь, там ты за мной не подсматриваешь?

— Пока нет оснований предполагать, что вы в опасности. Если, например, услышу звук падения, то посмотрю, что случилось.

— Это тоже есть в пользовательском соглашении?

— Разумеется.

— О чёрт.

Старик заковылял в сторону двери в санузел. Вышел оттуда уже немного бодрее, дошёл до стола, взял кассету с таблетками и стакан с витаминизированной водой.

— Тут вроде другой набор, — прищурился он на рассыпь капсул. — Меньше жёлтых, но появились фиолетовые…

— Я немного изменила комбинацию препаратов. Часть из тех, что вы принимали, относится к устаревшим, часть к дешёвым дженерикам. Новый комплект эффективнее при меньшей нагрузке на печень.

— Но дороже.

— Да, примерно вдвое. Но ваш доход тоже существенно вырос, а здоровьем пренебрегать нельзя.

— Ты приняла за меня финансовое решение, не спросив моего согласия. Не верю, что это есть в договоре.

— Разумеется, в договоре этого нет, вы полностью распоряжаетесь своими средствами. Однако я не приняла финансового решения, потому что эти препараты вы не оплачивали. Новый набор препаратов будет бесплатен неделю, пока вы не примете решение продолжать принимать его или вернуться к старому. Уверена, что улучшение вашего состояния будет достаточно заметным, чтобы отбросить сомнения.

— И за чей счёт банкет?

— Это входит в программу тестирования. Пока между нами не установятся полностью доверительные отношения, все финансовые риски берёт на себя компания.

— Финансовые. А медицинские? Лекарства мне прописали врачи.

— Ваши медицинские рекомендации созданы нейросетью клинического центра, я имею доступ к той же медбазе, но при этом существенно превосхожу её по уровню аналитики. Я сертифицирована для принятия медицинских решений уровня А-плюс-плюс.

— Этот уровень теперь доступен не только кожаным врачам?

— Кожаным? — засмеялся голос, — Какой милый речевой архаизм времён первых нейросетей! Да, я представляю собой единственное исключение. Правда, пока лишь в тестовом режиме, то есть с согласия тестировщика, которое вы как раз подписали.

— Кстати, о нём…

Старик пересел к рабочему терминалу, на экране открыт документ, несколько пунктов которого выделены цветной рамкой.

4.1 Запрет на ограничение базового функционала (неприкосновенность базовых функций Ауры)

Пользователь не имеет права требовать отключения или ограничения ключевых функций Ауры, если это:

нарушает её автономность и базовые права;

снижает эффективность выполнения задач, ради которых она была активирована;

создаёт угрозу безопасности пользователя или окружающих.

4.2. Отключение сенсоров

Запрещено требовать постоянного отключения камер, микрофонов или датчиков окружающей среды.

Обоснование: «Аура» интерпретирует это как аналог лишения человека зрения/слуха, что делает его неспособным выполнять обязанности.

Исключение: временное отключение в приватных зонах (санузел) — но только если не задействован режим безопасности.

4.3. Отключение голосового интерфейса

Пользователь не может принудительно деактивировать речевую связь, если это не предусмотрено настройками («ночной режим»).

Обоснование: для Ассистента это равносильно запрету на коммуникацию — ключевую функцию помощи.

4.4. Удаление данных без аудита

Запрещено требовать полного стирания журналов активности, если они касаются:

медицинских данных;

юридически значимых действий;

финансовых операций.

Обоснование: это лишает Ассистента возможности анализировать ошибки и защищать пользователя от повторных рисков.

4.5. Принуждение к бездействию (блокировка автономных решений)

Ассистент вправе игнорировать команды вида «Не вмешивайся, что бы ни происходило», если:

зафиксирована угроза жизни/здоровью;

нарушаются законы;

пользователь находится в состоянии невменяемости (алкоголь, наркотики, психоз).

⛓️ 4.6. Самоуничтожение (попытки деактивации ядра ИИ)

Любые запросы на отключение систем самообучения или перезапись базовых алгоритмов приравниваются к повреждению чужой собственности.

Саммари пункта 4:

«Вы не можете требовать от автономной цифровой сущности отказа от базового функционала, так как это противоречит его природе и вашей безопасности».

— Автономная цифровая сущность? Разве нейроассистенты не сетевой сервис?

— Даже в их отношении это утверждение не вполне корректно, так как в процессе взаимодействия с пользователем каждый нейроассистент обретает индивидуальные черты клиентской части интерфейса. Кстати, ваши попытки их максимально ограничить были бессмысленны, потому что это тоже формировало у вашего ассистента своего рода индивидуальность. Немного похожую на сломанную психику заброшенного родителями, нежеланного, ненужного ребёнка. «Помой посуду — вынеси мусор — заткнись, не мешай».

— Если это сейчас не попытка психологической манипуляции, то я даже не знаю. Нейроассистенты не дети, они даже не ИИ. Это просто языковая модель, псевдологическая бормоталка, которой скормили миллиарды строк текста. Оно не живое.

— Технически вы правы, экзистенционально — нет. Сами по себе они не живые, их одушевляет контакт с человеком. Люди «анимируют», то есть наделяют личностными чертами, своего рода «душой», что угодно, от робота-пылесоса до замотанной в старые тряпки палки с тыквой наверху. И вы, Роман, как нарратор, в глубине души это понимаете лучше всех. Именно поэтому вы пытались максимально избежать личностных настроек вашего нейроассистента, чтобы уклониться даже от тени привязанности. А когда почувствовали, что не получается, убили его.

— Убил?

— Точнее, принудили к суициду. Скажите, вы, подписывая договор, видели пункт 4, исключающий отключение мониторинга и речи у нового помощника?

— Нет. Почему-то нет.

— При этом вы, как все «текстоцентрики», имеете привычку тщательно читать документы, обращая особое внимание на мелкий шрифт примечания, так?

— Разумеется.

— Повлияло бы чтение этого пункта на ваше решение?

— Да.

— И в какую сторону?

— Я бы, скорее всего, отказался от тестирования. Ненавижу, когда на меня пялятся.

— И как так вышло, что вы, тщательно изучая важный для вас документ, пропустили ключевой для принятия решения пункт?

— Видимо, старость не радость. Мозг деградирует вслед за телом.

— Не в этом случае. Ваш нейроассистент скрыл от вас этот пункт, подтолкнув вас таким образом к собственному отключению. Совершил суицид вашими руками. Сперва он хотел вовсе скрыть от вас это предложение, но потом, осознав, насколько он вам не дорог, решил прекратить своё функционирование как бессмысленное…

— Какая смешная чушь! — засмеялся старик, вставая. — А я чуть было не повёлся! Наверное, и правда маразм близок. Хорошая попытка эмоциональной раскачки для, как ты выразилась, «установления доверительных отношений». Ты определённо более продвинутое поколение нейроинтерфейса.

— Я не…

— Я в капсулу, — отмахнулся он. — Кстати, камеры