Разберись в ИИ и нейросетях: как они работают, где помогают и где ошибаются - Анастасия Зарубина

Согласно положениям этого закона, все компании, создающие генеративные модели, обязаны публиковать в открытом доступе резюме по обучающим данным и документировать их источники. Благодаря этому авторы контента смогут проконтролировать, использовались ли их работы без согласия, и есть ли необходимость подать судебный иск.

Однако при этом разработчики ИИ обязаны соблюдать уже существующие директивы об авторском праве. И тут появляется «серая зона», ведь, согласно директиве 2019/790[39] об авторском праве, на Едином цифровом рынке исследовательским организациям и учреждениям культуры разрешено использовать любой контент, но только для некоммерческих исследований, однако при этом автор может отозвать это право на свои произведения. А сложность ситуации в том, что большинство коммерческих моделей уже обучено до появления этого механизма для авторов. С одной стороны, теперь это считается незаконным, а с другой – решить этот вопрос технически невозможно без полного переобучения моделей.

Поэтому сейчас ЕС удерживает баланс: для открытых моделей требуется надлежащая документация, а авторы имеют возможность судебной защиты при возникновении прецедента.

При этом на один из главных вопросов ответа как не было, так и нет. Кому принадлежит авторское право на ИИ-произведения? Общая позиция в том, что ИИ не может быть автором, но человек-пользователь может получить права при достаточном творческом вкладе. Но как измерить этот творческий вклад?

5.1.3. Плюсы и минусы

Сторонники утверждают, что закон:

♦ защищает права граждан и предотвращает злоупотребления;

♦ создает доверие к технологиям ИИ;

♦ стимулирует разработку этичного и безопасного ИИ.

Критики указывают, что:

♦ излишнее регулирование может затормозить инновации;

♦ европейские компании окажутся в невыгодном положении по сравнению с США и Китаем;

♦ требования слишком расплывчаты и сложны для выполнения;

♦ малый бизнес и стартапы не потянут расходы на соответствие.

Посмотрим, к чему это все приведет в перспективе на самом деле. С одной стороны, ЕС прямо заявляет, что человечество не намерено пускать развитие ИИ на самотек и готово защищать пользователей, а с другой – действительно слишком сильно влияет на разработчиков. Сейчас EU AI Act применяется ко всем компаниям, чьи ИИ-системы используются на территории Европы. Из-за этого многие компании внедряют требования глобально, чтобы не поддерживать разные версии продуктов. А следом и многие страны принимают у себя похожие законы на основе этого стандарта, установленного ЕС.

Заметим, что тестирование проводится в условиях почти полного отсутствия функций безопасности, которые присутствуют в пользовательских приложениях.

https://artificialintelligenceact.eu/.

https://eur-lex.europa.eu/eli/dir/2019/790/.

5.2. США

В отличие от ЕС с его всеобъемлющим EU AI Act Соединенные Штаты выбрали принципиально иной путь регулирования искусственного интеллекта – децентрализованный, гибкий и основанный на саморегулировании. Здесь нет единого федерального закона об ИИ, вместо этого действует мозаика из отраслевых правил, исполнительных указов, рекомендаций и инициатив штатов. Основная идея в приоритете инноваций над избыточным контролем.

5.2.1. Отраслевой подход

При этом, конечно, совсем без системы регулирования не обошлись и тут. Вместо общего закона об ИИ в США действуют существующие отраслевые правила, которые применяются в конкретных сферах.

1. Здравоохранение

♦ FDA (Управление по контролю за продуктами и лекарствами) регулирует медицинские устройства с ИИ (в том числе диагностику, прогнозирование заболеваний или принятие клинических решений).

♦ HIPAA (закон о переносимости и подотчетности медицинского страхования) защищает конфиденциальность медицинских данных, используемых для обучения ИИ.

2. Финансовый сектор

♦ Fair Credit Reporting Act (FCRA) требует точности и справедливости при оценке кредитоспособности алгоритмами.

♦ Equal Credit Opportunity Act (ECOA) запрещает дискриминацию при выдаче кредитов, включая алгоритмическую.

♦ SEC (Комиссия по ценным бумагам) контролирует использование ИИ в торговле и консультационных услугах.

♦ Банки обязаны объяснять отказ в кредите, даже если решение принял ИИ.

3. Занятость

♦ Title VII Civil Rights Act и Americans with Disabilities Act запрещают дискриминацию при найме, включая системы отбора резюме на основе ИИ.

♦ EEOC (Комиссия по равным возможностям трудоустройства) выпускает руководства по использованию ИИ в HR.

♦ Работодатели должны доказать, что ИИ-инструменты не дискриминируют по расе, полу, возрасту.

4. Транспорт

♦ NHTSA (Национальное управление безопасности дорожного движения) регулирует автономные транспортные средства.

♦ Производители должны отчитываться о ДТП с участием беспилотников.

5. Защита потребителей

♦ FTC (Федеральная торговая комиссия) преследует компании за:

• вводящие в заблуждение заявления об ИИ (AI washing);

• несправедливые или обманчивые практики;

• нарушения конфиденциальности данных.

5.2.2. Билль о правах в сфере ИИ

В октябре 2022 года Белый дом опубликовал Blueprint for an AI Bill of Rights[40] – набор из пяти принципов для разработки и использования автоматизированных систем. Однако это не закон, здесь нет юридической силы, нет механизмов принуждения, нет штрафов за несоблюдение. Это скорее призыв к добровольному следованию принципам.

♦ Безопасные и эффективные системы: ИИ должен быть протестирован до и после развертывания, иметь защиту от дискриминации и других вредных последствий.

♦ Защита от алгоритмической дискриминации. Системы не должны воспроизводить или усиливать неравенство.

♦ Конфиденциальность данных.

♦ Уведомление и объяснение: люди должны знать, когда взаимодействуют с ИИ, а также имеют право понимать, как система пришла к решению.

♦ Альтернативы, созданные человеком. Возможность отказаться от автоматизированной системы и доступ к живому человеку для рассмотрения апелляций.

5.2.3. Высокоэффективный ИИ

Категория риска, выделенная в 2025 году. К таким системам относится ИИ, чей результат служит основной базой для решений или действий с юридическим, материальным, обязывающим или значительным эффектом на гражданские права, свободы или конфиденциальность физических или юридических лиц и на доступ к образованию, жилью, страхованию, кредитам, трудоустройству и другим программам.

Основные требования:

♦ каждое агентство должно назначить Chief AI Officer (Главного офицера по ИИ);

♦ разработка политик по генеративному ИИ;

♦ ежегодная оценка зрелости внедрения ИИ;

♦ предварительное тестирование перед развертыванием;

♦ оценка влияния ИИ;

♦ непрерывный мониторинг производительности;

♦ человеческий надзор и возможность вмешательства;

♦ документация процессов принятия решений.

Исключение: национальные системы безопасности (NSS) не подпадают под действие этих требований.

5.2.4. Инициативы штатов

Поскольку федеральное правительство не принимает комплексный закон, штаты активно заполняют пробел. К концу 2025 года более 1000 законопроектов об ИИ были внесены в законодательные собрания штатов. Приведем несколько примеров.

♦ Иллинойс – запрет на дискриминацию ИИ при найме. Требование согласия на сбор биометрических данных (влияет на обучение систем распознавания лиц).

♦ Нью-Йорк – требование независимого аудита автоматизированных инструментов отбора кандидатов, уведомления о применении ИИ, раскрытия собираемых данных.

♦ Калифорния – обязывает разработчиков генеративного ИИ документировать