Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу - Нума Дхамани

рынок этой работы и в какой степени. Например, если продавец без разрешения распространяет новый фильм онлайн, это может представлять серьезную угрозу для цифровых продаж или доходов от потоковой передачи этого фильма. Использование, которое наносит ущерб рынку продажи оригинального произведения, вряд ли будет считаться добросовестным46.

Эти формулировки кажутся слегка размытыми, потому что так оно и есть: ни один из факторов не является строго определенным правилом, и они все рассматриваются в совокупности, если предъявляется иск об авторском праве. Однако прежде, чем перейти к судебным искам, которые уже были поданы против разработчиков LLM, давайте рассмотрим дело, которое также связано с использованием в интернете огромного количества текстов, защищенных авторским правом, – «Гильдия авторов против Google»49.

В 2015 году Google сотрудничала с несколькими крупными научными библиотеками для оцифровки их книжных коллекций, насчитывающих около двадцати миллионов томов. Благодаря партнерским отношениям технический гигант получил доступ к книгам, сканировал их и позволял людям искать в них фрагменты текста – и все это без разрешения владельцев авторских прав и без уплаты лицензионных сборов. Дело было передано в Апелляционный суд второго округа, который согласился с мнением суда низшей инстанции, что усилия Google по оцифровке представляют собой добросовестное использование, поскольку функция поиска предоставляет общественности только доступ к информации о книгах, которого у них в противном случае не было бы, и хотя система Google просматривала полный текст книги, поиск выдавал только фрагменты подходящего текста, а не всю книгу целиком. Концепция использования всего исходного материала для принципиально другого инструмента аналогична идее обучения больших языковых моделей.

В целом большие языковые модели, о которых мы говорим, могут быть защищены доктриной о добросовестном использовании, поскольку модель – это совершенно иной продукт, нежели любой из документов, и, следовательно, использование обучающих материалов будет преобразующим. Ситуация осложняется тем, что, как показали пользователи, LLM иногда можно заставить дословно воспроизводить текст. Регулярно воспроизводить «запоминание» исходных материалов сложно из-за вероятностной природы LLM, а также из-за неполного понимания, что именно и как она изучает, поэтому даже их разработчики с трудом могут сказать, когда модель будет воспроизводить обучающие тексты дословно. Однако, учитывая прецедент «Гильдия авторов против Google», шансы на то, что обучение LLM будет признаваться добросовестным использованием, кажутся значительными.

Большие языковые модели – не единственные генеративные модели, которые вызывают ажиотаж в сфере авторского права. Как упоминалось ранее, существуют великолепные генеративные модели, способные создавать все виды синтетических медиа, включая изображения, звук и видео. Некоторые из самых популярных моделей, включая Midjourney и Stable Diffusion, представляют собой модели преобразования текста в изображение: пользователи могут описать, как должно выглядеть их изображение, и модель сгенерирует его за них.

Модели для создания изображений, как и LLM, обучаются на огромных объемах данных из интернета. Аналогично наборам данных в виде текста на Common Crawl, существуют датасеты изображений, например LAION‐5B – набор из 5,8 миллиарда изображений, собранных некоммерческой организацией Large-Scale Artificial Intelligence Open Network (LAION). LAION‐5B используется компанией Stability AI, разработчиком Stable Diffusion, и другими; он состоит из изображений, которые находятся в открытом доступе в интернете, включая стоковые изображения и фотографии из различных изданий. Один немецкий фотограф, обнаружив, что некоторые из его стоковых изображений были использованы в LAION‐5B, попросил их удалить. Компания LAION ответила, что такой запрос выполнить невозможно, поскольку в базе данных есть только ссылки на изображения, но сами они не хранились, и поэтому нельзя быстро установить, какие именно фотографии были взяты из его портфолио. Законодательство об авторском праве в Германии, как и во многих других странах, допускает анализ данных, если они «доступны на законных основаниях» и впоследствии удаляются, но появление генеративных моделей заставило обратить на этот принцип более пристальное внимание51. Позже Stability AI объявила, что они готовы удовлетворять запросы на удаление от правообладателей, чьи работы были включены в набор данных LAION51.

Компания Getty Images также подала в суд на Stability за использование более 12 миллионов фотографий из ее коллекции50, 52. В иске они написали:

«Потратив значительные суммы, на протяжении почти трех десятилетий Getty Images собирала коллекцию сотен миллионов высококачественных визуальных материалов… Многие из этих изображений были созданы штатными фотографами Getty Images по заказу, другие были приобретены компанией у третьих лиц с передачей соответствующих авторских прав, а остальные лицензированы для Getty Images сотнями ее контент-партнеров или сотнями тысяч фотографов, которые зависят от лицензионных доходов, полученных на Getty Images»53.

Подтекст ясен: генеративные модели на основе ИИ представляют реальную угрозу для Getty и стоковой фотографии как отрасли. Getty надеется получить компенсацию за свою работу и нарушение авторских прав, но, как и в случае с большими наборами текстовых данных, трудно определить, сколько информации модель сохраняет из любого отдельного изображения, и, опять же, использование данных компанией Stability AI может считаться преобразующим.

Занятно, но у Getty могут быть более веские обвинения из-за артефакта, который присутствует в обучающих данных:

«Часто в выходных данных, генерируемых Stable Diffusion, встречается модифицированная версия водяного знака Getty Images, что создает путаницу в отношении источника изображения и ложно указывает на связь с Getty Images. Некоторые изображения, сгенерированные на Stable Diffusion, эстетически приятны, однако другие могут получиться гораздо более низкого качества и порой варьируются от причудливых до гротескных. Появление товарных знаков Getty Images в низкокачественных, непривлекательных или оскорбительных изображениях Stability AI подрывает авторитет товарного знака и является дальнейшим нарушением федеральных законов и законов штатов о товарных знаках»53.

Stable Diffusion или даже ее пользователи могут быть уличены в нарушении прав на товарные знаки, если на изображениях появляется водяной знак Getty Images, хотя Stability AI, несомненно, быстро отреагирует на такие события. В целом, это относительно неизведанная область права.

Все становится еще более рискованным, когда модель запоминает не только изображение, сделанное художником-человеком, но и фактически запоминает и воспроизводит его стиль. В дополнение к генерации фотореалистичных визуализаций, генеративные модели, включая Midjourney и Stable Diffusion, способны создавать иллюстративный материал в определенных стилях, как было описано в разделе 4.2. Стиль, как правило, не защищен авторским правом, но не сложно понять, почему художники думают, что такая имитация может обесценить или умалить их работу. Выдающаяся художница-аниматор Сара Андерсен, которая публикует веб-комиксы из коллекции «Каракули Сары», написала публикацию в New York Times о том, как ультраправые интернет-тролли позаимствовали ее комиксы, отредактировав текст и изображения, чтобы изменить их значение. На рис. 4.8 показан пример иллюстрации, сгенерированной инструментом на основе ИИ в ее художественном стиле с явно искаженным текстом, но сохраненными визуальными элементами. «Когда я заглянула на веб-сайт haveibeentrained.com, созданный для того, чтобы люди могли осуществлять поиск по датасету LAION, я