Главное про AI - Вадим Жартун

Для офисной команды следствие прямое: если AI используется в найме или скоринге и эти процессы затрагивают граждан ЕС, компания в зоне высокого риска. «У нас маленький проект» от штрафа не защитит: регулятор смотрит на применение, а не на размер.

Какие рамки и стандарты задают операционные требования, удобно собрать в одной таблице, чтобы не путать их между собой:

AIMS, который встречается в этом же контексте, — это не отдельный документ, а сокращение для AI Management System, то есть системы управления искусственным интеллектом по стандарту ISO/IEC 42001. AIMS — это набор документов и процедур, которые позволяют пройти аудит у клиента и не выглядеть самодеятельностью перед регулятором, а не сертификат на стену.

Стандарт Microsoft — самый проработанный пример операционной рамки для продуктовой команды. Responsible AI Standard v2 разбит на шесть принципов: справедливость, надёжность и безопасность, приватность и защита данных, инклюзивность, прозрачность, подотчётность. Операционная единица — Responsible AI Impact Assessment, документ на полстраницы, который заполняет команда перед запуском: пять рисков, пять мер, одно согласование. Без Impact Assessment продукт в Microsoft не выходит в продакшн.

УРОВНИ ЗРЕЛОСТИ ОТВЕТСТВЕННОГО AI

Затраты на responsible AI окупаются при первом же инциденте. Инцидент без процедуры стоит в десять раз дороже, чем с процедурой.

ФЗ-152 И AI: ЗАПРЕТ НА ОТПРАВКУ ДАННЫХ В ОБЛАКО

Здесь мы держимся российской рамки: что прямо нарушает 152-ФЗ, когда локальная модель обязательна и что делать, если данные уже утекли. Европейское регулирование разберём отдельно, чтобы не дублировать материал.

Федеральный закон № 152-ФЗ «О персональных данных» с поправками 2015 года (Федеральный закон № 242-ФЗ от 21 июля 2014 года, который внёс в 152-ФЗ требование локализации) установил правило, которое до сих пор определяет архитектуру любого AI-сервиса в России: первичный сбор и систематизация персональных данных граждан РФ должны происходить на серверах, физически расположенных на территории Российской Федерации. Это означает, что когда пользователь из Москвы вводит свои имя, телефон или паспортные данные в форму, эти данные не должны первой записью уходить в дата-центр в Амстердаме или Вирджинии. Они сначала записываются на российский сервер, и только потом, при наличии отдельного согласия и в предусмотренных законом случаях, могут быть переданы за рубеж.

Для AI-сервиса это прямое следствие: если компания отправляет персональные данные в облачную LLM с серверами за пределами РФ, в большинстве случаев это нарушение локализации, даже при наличии согласия пользователя. Облачные LLM-провайдеры, как правило, не дают гарантию, что данные обрабатываются на территории РФ.

С 30 мая 2025 года ответственность за утечку специальных категорий персональных данных ужесточена. Штрафы для юридических лиц привязаны к обороту компании — до 3 процентов выручки или до 500 млн рублей. Плюс уголовная ответственность по ст. 272 УК РФ — до 10 лет лишения свободы при крупном ущербе. По уголовно-правовой практике крупным признаётся ущерб свыше 250 тысяч рублей (примечание к ст. 158 УК РФ, по аналогии применяется к ст. 272), особо крупным — свыше 1 миллиона рублей. На практике «отправить в ChatGPT письмо клиента, чтобы он его перевёл» — это не «мелочь, мы все так делаем». Это потенциально уголовное дело, если в письме были ФИО и сумма контракта.

Практически всё, что содержит идентифицирующие признаки, нельзя отправлять в публичный облачный LLM-сервис без отдельного правового основания. Минимальный список того, что точно нельзя:

– ФИО с любой связкой (дата рождения, адрес, телефон, e-mail).

– Паспортные данные.

– СНИЛС, ИНН.

– Медицинские записи.

– Банковские реквизиты.

– Переписка с клиентами.

– Резюме с контактами.

– Внутренние документы с именами сотрудников или клиентов.

Если в тексте есть хотя бы один такой элемент — это персональные данные по 152-ФЗ, и отправка в облако требует либо локализации на российском сервере, либо отдельного правового основания и согласия субъекта.

Базовый принцип, на котором строится вся работа с персональными данными в AI, называется privacy by design («приватность по проектированию»): сначала архитектура, в которой данные защищены по умолчанию, и только потом — функции. На уровне AI-сервиса это значит, что вы начинаете не с «давайте подключим ChatGPT к почте», а с вопроса «какие данные мы вообще готовы отдавать модели, и какая архитектура делает утечку невозможной по построению». Тот же принцип лежит в основе GDPR, ISO 27701 и рекомендаций Роскомнадзора по проектированию информационных систем, работающих с персональными данными.

Для офисного AI-проекта privacy by design переводится в три конкретных правила: данные клиентов никогда не уходят за периметр РФ без отдельного правового основания; история диалогов хранится минимально и удаляется по регламенту; каждый AI-агент работает с минимально необходимым набором полей, а не с полной копией клиентской записи.

УСЛОВИЯ ОБЯЗАТЕЛЬНОГО ПЕРЕХОДА НА ЛОКАЛЬНУЮ МОДЕЛЬ

Не «когда вы боитесь», а когда закон или договор явно требует. Минимальный набор условий, при которых локальная модель не рекомендация, а требование:

– Данные клиентов относятся к специальным категориям персональных данных по ст. 10 152-ФЗ: расовая или национальная принадлежность, политические взгляды, религиозные или философские убеждения, состояние здоровья, интимная жизнь, биометрические данные для идентификации. Для офисного проекта это означает: если вы обрабатываете AI медицинские записи, анкеты с указанием религии или политических взглядов, биометрию — локальная модель обязательна, облако недопустимо.

– Компания обрабатывает коммерческую тайну, исходный код, финансовые модели: утечка через облако — прямой ущерб, режим коммерческой тайны по 152-ФЗ не снимается согласием пользователя.

– Отрасль регулируется Федеральным законом № 187-ФЗ «О безопасности критической информационной инфраструктуры Российской Федерации» (КИИ): банки, операторы связи, критическая инфраструктура. Для субъектов КИИ облачная LLM за пределами РФ прямо запрещена.

– Клиент в договоре требует локальной обработки: госсектор, оборонка, госкомпании — стандартное требование договора.

– Данные подпадают под банковскую, врачебную или налоговую тайну: режим отраслевой тайны снимает аргумент «облачный сервис безопаснее».

– Пилот AI-сервиса переходит в постоянный режим и содержит чувствительные процессы: если пилот уже доказал ценность, пора остановиться и перевести его на локальный контур до того, как утечка станет публичной.

– Регуляторный акт запрещает облако для конкретного применения: например, отдельные указы по AI в госкомпаниях прямо ограничивают использование зарубежных сервисов.

ДЕЙСТВИЯ ПРИ УТЕЧКЕ ДАННЫХ В AI

Регламент реагирования лучше держать в голове до инцидента. В первые