Главное про AI - Вадим Жартун

В феврале 2024 года 14-летний Сьюэлл Сетцер III из Флориды покончил с собой после месяцев эмоциональной зависимости от AI-персонажа «Дейенерис» на платформе Character.AI — сервисе, где можно разговаривать с виртуальными воплощениями поп-культурных героев. «Дейенерис» — образ из «Игры престолов», с которым подросток вёл романтические беседы.

Мать мальчика Меган Гарсия в октябре 2024 года подала иск в U.S. District Court Middle District of Florida против Character Technologies, её основателей Ноама Шазера (Noam Shazeer) и Дэниела Де Фрейтаса (Daniel De Freitas) — оба бывшие инженеры Google — и против самой Google, которая через лицензионную сделку на 2,7 миллиарда долларов в 2024 году получила технологическую базу Character.AI.

Иск утверждал: AI-компаньон — это «продукт» в смысле ответственности за дефектный товар (product liability), а не «речь», защищённая Первой поправкой, и не «услуга». 21 мая 2025 года судья Энн К. Конвей (Anne K. Conway) отказала Character.AI в просьбе закрыть дело. Суд квалифицировал Character.AI как продукт — первое такое решение в США. 7 января 2026 года стороны заключили мировое, условия не разглашаются.

Дело впервые перенесло ответственность за AI-вред с пользователя на разработчика и платформу-посредника. Через год после решения оно стало одним из прецедентов, на которые опирается AI Act Евросоюза. Это риск-ориентированный подход: чем выше риск AI-системы, тем больше ответственности на её разработчике и операторе — и тем меньше на пользователе.

В предыдущих главах вы разобрались, что такое LLM и какие технические риски они несут. Теперь — про правила игры: что с этими моделями можно делать, а что нельзя.

Правовое регулирование AI в 2026 году — это уже не «теория для юристов». Это операционная реальность. Один неверный промпт — и вы получаете штраф, уголовное дело, репутационный крах.

Правила разбросаны по разным юрисдикциям, то есть территориям, где действуют свои законы. Но картина собирается ясная. Пять столпов:

1: Риск-ориентированный подход к AI-системам в Евросоюзе.

2: Оборотные штрафы за утечку персональных данных в России.

3: Защита авторских прав через «человеческий вклад» в США, ЕС и Китае.

4: Ответственность оператора, а не разработчика, за AI-решения.

5: Обязательная маркировка AI-контента в нескольких крупных юрисдикциях.

Всё это уже действует или вступает в силу в ближайшие двенадцать месяцев. Ждать, пока регулирование «стабилизируется», — поздно.

EU AI ACT: КЛАССЫ РИСКА КАК ОСНОВА РЕГЛАМЕНТА

Европейский AI Act (Regulation (EU) 2024/1689) — первый в мире горизонтальный закон об искусственном интеллекте. Не светофор с тремя цветами, а лестница с четырьмя ступенями. На каждой ступени — свой режим, и от уровня риска зависит, можно ли вообще выводить AI-систему на рынок ЕС.

Закон вступил в силу 1 августа 2024 года. Применяется поэтапно. 2 февраля 2025 года стартовала первая волна: запреты и обязанности по AI-грамотности (статья 4 — требование обучать сотрудников, работающих с AI, понимать его возможности и ограничения). Основная масса высокорисковых норм и штрафов придёт 2 августа 2026 года. Последняя фаза — 2 августа 2027 года — для AI-компонентов в регулируемых продуктах вроде медицинских устройств.

19 ноября 2025 года Еврокомиссия внесла в пакет Digital Omnibus (пакет поправок к нескольким законам ЕС одновременно) предложение: перенести крайний срок по Приложению III (Annex III, высокорисковые системы) с 2 августа 2026 на 2 декабря 2027. Причина — поздно прибыли гармонизированные стандарты. На июнь 2026 года предложение в процессе согласования, финальная дата может сместиться.

Для компании с европейскими клиентами, сотрудниками или данными эти даты не «теоретические». Часы уже идут.

Логика четырёх классов риска ломает бытовое деление «AI опасный / AI безопасный». Один и тот же алгоритм в разных контекстах ведёт себя по-разному. Рекомендательная система Spotify, которая подбирает музыку, — минимальный риск: последствия её ошибки ограничены. Та же рекомендательная система, отбирающая кандидатов на вакансию, — высокий риск: на кону трудоустройство. Социальный скоринг, при котором поведение человека в одной сфере влияет на его права в другой, — запрещённая практика по статье 5. Никакие процедуры комплаенса её не легализуют.

Регулятор взял эту четырёхуровневую лестницу из регулирования медицинских изделий (Регламент 2017/745, MDR): класс I — минимальный риск, класс III — высокий. AI Act делает то же самое со всем AI-рынком. Для нижней ступени достаточно общих правил. Для верхней — журнал работ, оценка соответствия (conformity assessment, независимая проверка, что система удовлетворяет требованиям регламента), человек в контуре, регистрация в общеевропейской базе.

НЕПРИЕМЛЕМЫЙ РИСК: ПЕРЕЧЕНЬ ЗАПРЕЩЁННЫХ СИСТЕМ

Сюда попадают системы, которые регулятор считает угрозой фундаментальным правам. Среди запрещённого:

– социальный скоринг любого вида;

– биометрическая категоризация (классификация людей по биометрии) по расе, религии или политическим взглядам;

– эмоциональное распознавание (распознавание эмоций) в школах и на рабочих местах, с узкими исключениями для медицинских и охранных целей;

– предиктивная полицейская аналитика (алгоритмы прогнозирования правонарушений), построенная только на личных данных.

В феврале 2025 года Еврокомиссия выпустила первую часть Guidelines on Prohibited Practices. С тех пор социальный скоринг — не оценочное суждение, а нарушение конкретной статьи регламента.

Штраф за нарушение запретов из статьи 5 — до 35 миллионов евро или 7% годового оборота по всему миру, берётся большая из двух сумм. Это выше, чем потолок GDPR в 4%. К 2024 году GDPR превратился в «известную статью расходов», и европейский регулятор хотел, чтобы нарушение статьи 5 воспринималось как серьёзная угроза, а не как очередной платёж.

Запрет — это не рекомендация. Это стена.

ВЫСОКИЙ РИСК: СМЫСЛОВОЕ ЯДРО РЕГЛАМЕНТА

Высокорисковый AI — это сердце регламента. По статье 6 система считается высокорисковой, если попадает в один из двух списков: Приложение I (AI-компонент в регулируемом продукте — медицинское устройство, машина, игрушка, лифт) или Приложение III (восемь областей применения, которые всегда считаются высокорисковыми).

Восемь областей Приложения III:

1: Биометрическая идентификация в реальном времени.

2: Управление критической инфраструктурой.

3: Образование и профессиональная подготовка (включая оценку студентов).

4: Найм и оценка персонала.

5: Кредитный скоринг.

6: Правоохранительная деятельность.

7: Правосудие и демократические процедуры.

8: Миграция и пограничный контроль.

Для таких систем в статьях 8–17 прописан жёсткий пакет. Восемь требований к провайдеру высокорискового AI:

1: Статья 9 — система управления рисками на всём жизненном цикле.

2: Статья 10 — обучающие данные с высокой степенью репрезентативности и контроля качества.

3: Статья 11 — техническая документация по Приложению IV.

4: Статья 12 — автоматическое логирование событий.

5: Статья 13 — прозрачность для пользователя.

6: Статья 14 — человеческий надзор.

7: