Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу - Нума Дхамани

иметь правильную форму, неверно14. В других методах обнаружения дипфейков используются: анализ физиологических признаков на видео, при котором оценивается, в норме ли дыхание и частота сердечных сокращений человека15; биометрический анализ особенностей конкретного человека, включая движения и стиль речи, которые можно сравнить, чтобы отличить подделку16. Биометрический анализ также применялся для обнаружения дипфейков звука, и этот метод доказал свою эффективность17.

Учитывая соблазны злонамеренного использования, гарантированного средства для обнаружения дипфейков не существует. Большинство методов обнаружения, как правило, обладают низкой способностью к обобщению: если они сталкиваются с новым типом манипуляции, которого не было в обучающих данных, то их эффективность значительно снижается16. Несмотря на то, что значительный прогресс в обнаружении дипфейков уже достигнут и удачные решения по работе с определенными артефактами в продуктах синтетических медиа существуют, мы надеемся, что у исследователей появится интерес устранить ограничения существующих наборов данных, используемых для тестирования этих моделей, а также разработать методы для обобщения различных типов обработки и генераций в дипфейках. Но вполне вероятно, что в какой-то момент станет чрезвычайно трудно или даже невозможно с уверенностью автоматически обнаруживать дипфейки исключительно исходя из признаков, содержащихся в самом изображении.

Хотя технические решения, безусловно, крайне важны для противодействия ИИ-сгенерированному или подвергнутому манипуляциям контенту, но они не решают проблему в полном объеме. В эффективном решении этой проблемы важную роль играют усилия по повышению медиаграмотности, направленные на просвещение и информирование общественности. Для визуальных дипфейков, таких как изображения и видео, мы можем использовать артефакты самой сгенерированной картинки, чтобы отличить ее от реальных изображений. Невозможно выделить один-единственный признак, на который нужно обращать внимание, однако, учитывая, что при обработке изображения часто происходят преобразования лица, мы можем внимательно изучить щеки, лоб, глаза, брови, губы и волоски на лице. Мы можем задать такие вопросы: совпадает ли возраст кожи с возрастом других черт лица? Является ли тон кожи неровным? Должны ли быть здесь тени? Выглядят ли изменения волосков на лице естественно? Не слишком ли много или мало бликов в очках? Не слишком ли часто человек моргает? Выглядят ли движения губ естественными? Раньше на сгенерированных с помощью ИИ изображениях можно было увидеть слишком много пальцев на руках, поскольку на многих фотографиях человека – а именно на них обучались модели – руки видны реже, чем лица. На видео выражение лица или движения могут не совсем соответствовать голосу. В визуальных дипфейках мы, как правило, ищем искажения. Кроме того, в работе по повышению медиаграмотности необходимо уделять внимание пониманию источника и контекста распространяемой информации. Если человек будет знать, откуда произошел контент, какова его достоверность, какой контекст, это поможет понять, сколько внимания стоит уделять этому контенту.

Наконец, как обсуждалось в главе 3, соответствующее законодательство, регулирующее использование технологии и способы ее передачи, будет иметь основополагающее значение для ответственного использования и передачи синтетических медиа. Только в США было введено несколько законопроектов о синтетических медиа, особенно в отношении порнографии и манипулирования демократическим процессом18. Одновременно с этим компании, владеющие социальными сетями, включая Facebook [46], X (Twitter), Reddit, YouTube и TikTok, разработали политику модерации контента, запрещающую любые дипфейки со злым умыслом на своих платформах.

4.2. Как генеративный ИИ преображает творческий процесс

В июне 2022 года американский журнал о моде и развлечениях Cosmopolitan представил первую обложку, полностью нарисованную генеративным ИИ19. Синтетические медиа открыли новое измерение возможностей для создателей контента. Они преобразили творческий процесс, освободив от монотонных задач, повысив производительность и эффективность, и позволили людям по-новому и невиданными ранее способами проявлять свои творческие способности. В этом разделе мы рассмотрим несколько применений синтетических медиа в творчестве – от маркетинга и виртуальных инфлюэнсеров до искусства и кино.

4.2.1. Применение в маркетинге

Пожалуй, самый распространенный вариант коммерческого использования генеративного ИИ – это маркетинг. Существует бесчисленное множество примеров, когда отдельные лица или бренды используют синтетические медиа в создании маркетингового контента, усиливая персонализацию, но сохраняя стиль и тональность бренда. Они варьируются от создания социальных медиа и публикаций в блогах до разработки маркетинговых видеороликов и визуального брендинга. Платформа Jasper (см. https://www.jasper.ai/) для создания контента с помощью искусственного интеллекта, работающая на базе целого набора моделей сторонних производителей (включая GPT‐3.5 от OpenAI), а также своей собственной, ориентирована на создание контента для бизнеса. Она может создавать различные типы контента по желанию клиента, включая публикации в социальных сетях, баннеры для веб-сайтов, электронные письма, блоги, рекламу и изображения. В Jasper есть возможность переключаться между различными форматами, тонами и языками. На своем веб-сайте они сообщают, что им «доверяют более 100 000 команд инновационных компаний по всему миру».

Для рекламы некоторые бренды используют DALL-E 2 и другие инструменты создания изображений. DALL-E 2 – это модель OpenAI, которая может генерировать реалистичные изображения и художественные работы по описанию на естественном языке20. Американский бренд кетчупа Heinz с помощью DALL-E 2 подготовил маркетинговую кампанию AI Ketchup: «ДАЖЕ Искусственный интеллект ЗНАЕТ, ЧТО КЕТЧУП – ЭТО HEINZ»21. Как показано на рис. 4.4, когда мы просим DALL-E 2 создать серию картинок с обычным кетчупом, то на изображениях в подавляющем большинстве будут представлены элементы фирменного стиля Heinz.

Рис. 4.4. Промпты для DALL-E 2 слева направо: картина импрессиониста с изображением бутылки кетчупа; рисунок пятилетнего ребенка с изображением бутылки кетчупа; астронавт в космосе, держащий бутылку кетчупа

Швейцарская транснациональная корпорация Nestlé, производящая напитки и продукты питания, использовала в DALL-E функцию Outpainting, которая позволяет дорисовать изображение за пределами его первоначальных границ, добавляя элементы в том же стиле (см. http://mng.bz/z0JX). С помощью функции Outpainting в DALL-E они создали расширенный вариант знаменитой картины Яна Вермеера «Молочница» и использовали его в рекламе для продвижения бренда йогуртов и десертов La Laitière. Рекламный ролик, созданный креативным коммуникационным агентством Ogilvy Paris (см. http://mng.bz/G98R), расширяет мир оригинальной картины и показывает, как кухарка готовит угощения в стиле La Laitière22. Возвращаясь к предыдущему примеру с астронавтом, держащим бутылку кетчупа, мы попросили DALL-E Outpainting дорисовать изображение, см. рис. 4.5.

Рис. 4.5. Результат применения функции Outpainting в DALL-E при вводе промпта «Бургер в открытом космосе без кетчупа»

Креативные агентства не единственные, кто использует в маркетинге генеративный ИИ: канадско-американский актер Райан Рейнольдс попросил ChatGPT использовать его стиль, шутки, ругательства и написать рекламный текст для Mint Mobile с сообщением о том, что их праздничная промоакция продолжается23.

У 19‐летней Микелы Соузы 2,8 миллиона подписчиков в Instagram[47] и 3,6 миллиона подписчиков на TikTok по состоянию на