Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу - Нума Дхамани

внутренние данные Amazon. Компания пошла еще дальше и установила внутренние барьеры для ChatGPT: когда сотрудник посещал ChatGPT, всплывало сообщение о том, что «служба безопасности Amazon может не одобрить это использование»42. JPMorgan тоже ограничила использование чат-бота из опасений по поводу разглашения секретной или конфиденциальной информации и возможных проблем с регулирующими органами43. Все это говорит о необходимости как осторожного поведения со стороны пользователей, так и создания более развернутых норм защиты конфиденциальности.

3.4. Итоги

Адаптация ИИ – это приведение в соответствие целей системы машинного обучения и предполагаемых целей ее создателей, или, в более широком смысле, соответствие между мощными системами ИИ и общечеловеческими ценностями.

Исследователи используют несколько стратегий, чтобы помешать модели генерировать ненадлежащие ответы, включая алгоритмы обнаружения нежелательных ответов модели, фильтрацию как ответов, так и обучающих данных, условное предварительное обучение, обучение с подкреплением и обратной связью от человека (RLHF), Конституционный ИИ или обучение с подкреплением и обратной связью от ИИ (RLAIF).

Еще одним риском нарушения конфиденциальности является утечка личных или секретных данных через пользовательский промпт. Эта информация может быть использована для дальнейшей доработки или обучения модели, но она также может просочиться в ответы на вопросы других пользователей.

Существующие законы о конфиденциальности и защите данных часто имеют ограниченный характер, и компании приняли внутренние меры для предотвращения утечки закрытых данных при использовании LLM их сотрудниками.

4

Развитие генерируемого контента

Темы этой главы

• Создание и выявление синтетических медиа

• Использование генеративного ИИ для создания контента

• Знакомство с текущими дебатами вокруг использования контента, защищенного авторским правом

На широко распространившемся в X (Twitter) снимке папа Франциск идет по улице с крестом на шее и в своем типичном белом цуккетто. Что более необычно, восьмидесятилетний мужчина щеголяет в эффектном белом пуховике, который очень похож на тот, что продается под дизайнерским брендом Balenciaga (розничная цена – 3350 долларов). В интернете только и говорили о «дрипе», или стиле, папы римского. Думаете, это единственная проблема? Изображение было ненастоящим: его создал рабочий-строитель из Чикаго, который осваивал инструмент Midjourney для генерации изображений с помощью ИИ и подумал, что было бы забавно увидеть папу Франциска «на стиле»1.

Хотя мем «папа в Balenciaga» был безобидной шуткой, он ввел в заблуждение многих пользователей. Модель и писательница Крисси Тейген написала в X (Twitter): «Я подумала, что пуховик папы римского был настоящим, и не задумывалась об этом ни секунды, я не переживу таких технологий будущего»2. Но технологии будущего уже здесь, и медиа, созданные с помощью ИИ, быстро становятся неотличимыми от форм, которые они имитируют. В этой главе мы обсудим методы, риски, возможности и правовую базу синтетических медиа, где LLM и другие типы генеративного ИИ стали применяться в первую очередь.

4.1. Появление синтетических медиа

Синтетические медиа [40], а если более точно, ИИ-сгенерированные медиа, – это обобщающий термин для контента, который был создан или изменен с помощью искусственного интеллекта. Иногда его используют как синоним для визуальной технологии дипфейков, но синтетический контент (как показано на рис. 4.1) – более широкое понятие, которое включает в себя текст, изображения, видео, голос и данные. Термин «дипфейк» («deepfake» образовано от «deep learning» («глубокое обучение») и «fake» («подделка»)) был введен в 2017 году пользователем Reddit, использовавшим технологию подмены лиц для изменения порнографических видеороликов3. Дипфейки в узком понимании относят только к подделке физических характеристик или голоса конкретного человека, чаще всего для того, чтобы другие поверили в происходящее на записи.

Синтетические медиа, а если более точно, ИИ-сгенерированные медиа, – это обобщающий термин для контента, который был создан или изменен с помощью искусственного интеллекта и включает в себя текст, изображения, видео, голос и данные.

Рис. 4.1. Ландшафт синтетических медиа

Первоначально дипфейками называли тип синтетических медиа, где человек на изображении или видео заменялся кем-то другим, но сейчас это понятие расширилось и включает в себя реалистичные изображения людей, которых не существует; синтетические аудио- и видеозаписи, имитирующие интересующего человека; целенаправленную пропаганду, напоминающую реальные новостные статьи. Дипфейки, как правило, имеют негативную коннотацию, и тому есть яркие примеры: отредактированное видео, где Марк Цукерберг говорит: «Кто управляет данными, тот управляет будущим» (см. http://mng.bz/OPVo); вирусный дипфейк с Дональдом Трампом, который просит Бельгию выйти из Парижского соглашения по климату (см. http://mng.bz/YR8K). В действительности, 9 из 10 американцев считают, что дипфейки могут принести больше вреда, чем пользы4. Как мы еще будем обсуждать, у этой технологии существует ряд потенциально полезных применений и вариантов использования, поэтому люди все чаще используют термин ИИ-сгенерированные медиа, или ИИ-сгенерированные синтетические медиа, чтобы избежать негативной коннотации слова «дипфейк».

4.1.1. Популярные методы создания синтетических медиа

Ранее мы обсуждали, как большие языковые модели используются для генерации текста. Здесь мы рассмотрим два часто используемых метода изменения или создания изображений и видео (поскольку видео – это всего лишь последовательность изображений). В первом методе – автоэнкодерах – изображение сначала сжимают, а потом распаковывают, причем для обоих процессов применяются нейросети. Возможно, из главы 1 вы помните систему энкодер-декодер, где текст кодируется в числовое представление, которое использует модель, а затем снова декодируется в удобочитаемый ответ. Аналогичным образом изображение передается в энкодер, который создает его сжатую версию. Эта сжатая версия, которую еще называют латентными признаками или латентным представлением изображения, содержит набор характеристик, описывающих содержание и свойства исходного изображения [41].

Рис. 4.2. Создание дипфейка с помощью автоэнкодеров с одним энкодером и двумя декодерами

Допустим, мы пропустили изображение чьего-то лица через энкодер. Тогда латентные признаки могут включать в себя особенности черт лица, такие как выражение, угол наклона лица, тон кожи и так далее. Затем латентное представление пропускают через декодер, который восстанавливает изображение. Автоэнкодеры часто используются в технологиях замены лица, когда один и тот же энкодер создает латентные представления для обоих лиц, а затем разные декодеры генерируют обратно изображения из их латентных представлений, стремясь воссоздать исходное изображение максимально точно. На рис. 4.2 показано, как один и тот же энкодер создает латентные представления лица A и лица Б. А затем в декодер, обученный максимально точно восстанавливать черты лица Б, передается латентное представление лица A (тот же энкодер), чтобы создать натуралистичную подмену лица. Например, декодер может подменить такие характеристики, как глаза, нос, рот и оттенок кожи [42].

Второй метод создания синтетических медиа – это генеративно-состязательные сети (Generative Adversarial Networks, GANs), которые состоят