Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу - Нума Дхамани

правах в области ИИ и более поздними положениями, будут поддержаны обеими партиями, хотя перспектива принятия федерального закона в Соединенных Штатах далеко не очевидна. Разработчики LLM признают, что их самая большая угроза со стороны регулирующих органов находится за Атлантическим океаном – в Европейском парламенте.

8.4.2. Обзор ситуации в Европейском союзе

Европейский парламент 14 июня 2023 года подавляющим большинством голосов одобрил свою версию закона ЕС об искусственном интеллекте, подготовив условия для принятия окончательной версии закона в ускоренные сроки к концу года33. Закон ЕС об ИИ станет одним из первых основных документов, регулирующих использование ИИ, и, возможно, будет служить моделью для политиков во всем мире.

Закон об ИИ реализует «учитывающий риски» подход к регулированию в области ИИ, уделяя особое внимание применению ИИ в тех областях, где он может нанести наибольший вред обществу. Другими словами, различные уровни риска будут определять, насколько сильно должна регулироваться эта технология, то есть ИИ-системы с высокой степенью риска будут требовать более строгого регулирования. Некоторые ИИ-системы признаны неприемлемо рискованными и будут полностью запрещены из-за нарушения основных прав человека; к ним относятся когнитивно-поведенческое манипулирование людьми из уязвимых групп, присвоение социальных рейтингов [112], а также системы биометрической идентификации, в том числе работающие в удаленном режиме (за некоторыми исключениями)34. Под эту категорию попадает, например, игрушка с голосовой активацией, которая провоцирует агрессивное поведение у детей, – и она будет запрещена.

На один уровень ниже ИИ-систем с неприемлемо высоким риском находятся системы с высоким риском, негативно влияющие на безопасность или основные права (которые защищены Хартией ЕС об основных правах человека). К ним относятся потребительские товары, на которые распространяются ограничения [113], и ИИ-системы, используемые для принятия социально-экономических решений, включая правоприменение, найм сотрудников, доступ к образованию и финансовым услугам. Все ИИ-системы с высоким риском будут оцениваться не только перед выходом на рынок, но и на протяжении всего их жизненного цикла. Эти системы должны соответствовать стандартам управления данных, точности и отсутствия дискриминации. Кроме того, для них потребуется дополнительно внедрить систему управления рисками, ведения записей, надзора, осуществляемого человеком, а также разработать техническую документацию. Системы ИИ из этой группы также необходимо будет зарегистрировать в базе данных ЕС, что обеспечит не только прозрачность в отношении количества систем с высоким риском, но и будет отражать степень их воздействия на общество.

Системы с небольшим риском должны будут соответствовать требованиям прозрачности, чтобы пользователи могли принимать обоснованные решения. Эти требования включают в себя информирование пользователя о том, взаимодействует ли он с ИИ, например с дипфейком, системами распознавания эмоций или чат-ботами. Закон об ИИ содержит дополнительные требования к генеративному ИИ, согласно которым необходимо соблюдать принципы прозрачности при раскрытии ИИ-сгенерированного контента, предотвратить генерацию незаконного контента, публиковать краткие сведения об использовании материалов, защищенных авторским правом, при обучении модели.

Рис. 8.7. Четыре категории рисков, обозначенные в Законе ЕС об ИИ

Наконец, ИИ с минимальным риском включает такие применения, как видеоигры и спам-фильтры. Предполагается, что он будет регулироваться в основном добровольными кодексами поведения. На рис. 8.7 показаны уровни риска, предусмотренные Законом ЕС об ИИ. Однако на момент написания этой книги европейские политики еще не решили, попадут ли базовые LLM под эти рамки, вопрос пока обсуждается [114].

Конечно, Закон об ИИ – не единственный важный документ в ЕС, регулирующий риски, связанные с ИИ. В главе 3 мы кратко обсудили Общий регламент ЕС по защите персональных данных (далее – Общий регламент ЕС), который требует от компаний защищать персональные данные и конфиденциальность граждан ЕС. Закон об ИИ принимается для того, чтобы дополнить Общий регламент ЕС, а не заменить его. Кроме вопросов конфиденциальности данных, Общий регламент ЕС также содержит две статьи, касающиеся систем машинного обучения. Во-первых, «Общий регламент ЕС гласит, что алгоритмическим системам не следует позволять принимать важные решения, нарушающие законные права, без какого-либо контроля со стороны человека»35. Примером является ситуация, когда в 2021 году американская транспортная компания Uber была обязана восстановить в должности шестерых водителей в Нидерландах, которые были «несправедливо уволены по решению алгоритмических инструментов»36. Во-вторых, «Общий регламент ЕС гарантирует право человека на получение важной информации о логике алгоритмической системы, которое иногда спорно рассматривается как право на объяснение»35. Проще говоря, потребители в ЕС имеют право спросить компании, которые используют автоматизированное принятие решений на основе их персональных данных, например компании, предоставляющие услуги по страхованию жилья, как и почему были приняты те или иные решения.

В рамках направления работы по регулированию цифровых технологий ЕС уже принял такие нормативные акты, как Закон о цифровых услугах (Digital Services Act, DSA) и Закон о цифровом рынке (Digital Market Act, DMA). Закон о цифровых услугах, принятый в ноябре 2022 года, распространяется на онлайн-платформы и поисковые системы, требует от компаний проводить оценку рисков, разрабатывать меры по их снижению и проходить сторонние проверки на соответствие требованиям37. Наиболее строгие требования Закона о цифровых услугах применяются только к очень крупным онлайн-платформам и в основном регулируют платформы, имеющие наибольший охват и влияние среди граждан ЕС. Одна из целей этого закона – сделать большие платформы более прозрачными, особенно с помощью контроля над работой алгоритмов и модерации контента. Эти требования к прозрачности призваны выявлять любые систематические риски, связанные с проектированием и предоставлением услуг. Например, если ИИ-система рекомендаций контента будет способствовать распространению дезинформации, то в соответствии с этим законом компании будут грозить штрафы. Подход ЕС в отношении очень крупных онлайн-платформ стоит особого упоминания, поскольку при такой регуляции может подорвать внедрение инноваций. Другими словами, как компании должны внедрять инновации, если они сталкиваются со строгими правилами? А пока таким платформам уделяется особое внимание, малые предприятия освобождаются от бремени соблюдения некоторых положений Закона о цифровых услугах и поэтому могут продолжать внедрять инновации. Однако, если они станут заметной силой в обществе, им тоже придется задуматься о том, как они используют свои данные и как их платформа влияет на пользователей.

Закон о цифровом рынке направлен на усиление конкуренции на этих рынках. Он нацелен на так называемых «ключевых игроков» – корпоративные группы, оказывающие значительное влияние на внутренний рынок, то есть на крупные технологические компании. Здесь на таких игроков по сравнению с другими компаниями будет распространяться дополнительный уровень нормативно-правового регулирования. Например, им будет запрещено передавать данные между своими сервисами без согласия пользователей, осуществлять самостоятельно выбор их услуг и продуктов, а также они будут обязаны делиться с рекламодателями дополнительной информацией о том, как будет работать их реклама35. Закон о цифровом рынке может повлиять на то, как крупные технологические игроки обрабатывают данные и как ИИ-системы управляют ранжированием результатов в поисковых