Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу - Нума Дхамани

Face, уверенно придерживаются принципов открытого исходного кода, создавая и публикуя модели и наборы данных для бесплатного использования62. Это создает экосистему быстрой разработки и распространения, потому что люди, не связанные ни с одной престижной лабораторией ИИ, все же могут получить доступ к самым последним выпускам, а в некоторых случаях даже улучшить их. Это сопряжено с определенными рисками, поскольку любые механизмы, встроенные для предотвращения возможного вреда, могут быть сняты последующими пользователями. Будет сложнее предотвратить создание поддельного контента или обеспечить соблюдение существующих авторских прав.

Тем не менее есть основания надеяться, что эти вопросы не будут ограничивать творческие возможности, а только поспособствуют их развитию.

Писатель и интернет-активист Кори Доктороу уже давно критикует авторское право за то, что хотя со временем действие этих прав становилось более длительным и обширным, прибыль все-таки уходила от создателей к корпорациям, выкупающим авторские права63. Доктороу скептически относится к дальнейшему расширению авторских прав с целью помешать генеративным моделям получать доступ к этим работам в процессе обучения. Он пишет:

«По сути, системы машинного обучения поглощают огромное количество материалов, анализируют их, находят статистические корреляции между ними, а затем используют все это для создания новых работ. Это сложная математическая версия того, что делает любой автор: сначала он анализирует, как создаются произведения, которыми восхищается, а затем начинает творить свои работы. Если вы просматриваете страницы книги по искусству, анализируя цветовые решения, или изучаете соотношения носа и лба в понравившейся вам картине, то вы не нарушаете авторские права. Мы не должны придумывать новое право, которое будет определять, кому можно тщательно просматривать ваши творческие работы и изучать их, – такое право лишило бы следующие поколения авторов (на законных основаниях) возможности учиться своему ремеслу»63.

Люди могут обоснованно расходиться во мнениях по поводу того, следует ли обучать крупномасштабные модели работе с данными, защищенными авторским правом, и каким образом это нужно делать. Несомненно, у нас появится больше ясности с юридической точки зрения по мере дальнейшего рассмотрения подобных дел и возникновения прецедентов. Однако во времена, когда появилась фотография, художники тоже были обеспокоены тем, что они лишатся возможности рисовать и продавать свои картины, поскольку не смогут больше конкурировать с камерами в способности отображать реальность. Но художники продолжали рисовать, передавая в своих картинах сцены со своей собственной интерпретацией и экспрессией64. Возможно, генеративные модели станут еще одним средством коммуникации, которое никогда полностью не удовлетворит потребность человека в красоте и не заменит его стремление к творчеству.

4.4. Итоги

Синтетические медиа, а точнее, ИИ-сгенерированные медиа, – это обобщающий термин для контента, который был создан или изменен с помощью искусственного интеллекта; к ним относятся текст, изображения, видео, голос и данные.

Термин «дипфейк» (сочетание «deep learning» и «fake») иногда используется как синоним визуальных синтетических медиа, но чаще он имеет негативную коннотацию.

Автоэнкодеры используют нейронные сети для сжатия и распаковки изображений; часто они применяются в технологии замены лиц.

GAN состоят из двух нейронных сетей – генератора и дискриминатора. Генератор предназначен для создания новых данных, таких как изображения, а дискриминатор проверяет подлинность изображения, сравнивая его с обучающим набором данных и выявляя различия между подделкой и оригиналом.

Синтетические медиа способствуют демократизации создания контента и дают возможность творить каждому, порождая новую волну искусства.

Генеративный ИИ, помимо прочего, печально известен тем, что используется для создания дезинформационного контента, порнографических роликов со знаменитостями, для киберсексуальных домогательств, а также мошенничества и шпионажа, что является незаконным.

В борьбе с дипфейками важное значение имеет целостный подход к выявлению искусственного контента, включающий в себя технические решения, медиаграмотность и просвещение, а также соответствующее законодательство, регулирующее использование технологии.

Инструменты генеративного ИИ трансформируют творческий процесс, освобождая от выполнения монотонной работы, повышая производительность и эффективность, а также позволяя людям выражать свои творческие замыслы новыми и беспрецедентными способами.

Компаниям, разрабатывающим LLM, были выдвинуты обвинения в нарушении чужой интеллектуальной собственности, в частности авторских прав, в ходе обучения моделей.

В Соединенных Штатах добросовестное использование материалов, защищенных авторским правом, допускается без разрешения. Добросовестное использование определяется четырьмя факторами, прописанными в Законе об авторском праве 1976 года.

Некоторые судебные разбирательства еще продолжаются, но, учитывая существующие прецеденты, вероятно, что большая часть оспариваемых действий в области генеративного ИИ будет признана добросовестным использованием.

Свободное программное обеспечение – это практика предоставления свободного доступа к исходному коду программного обеспечения для изменения и повторного использования.

Движения за открытый исходный код и открытые данные ускорили разработку ИИ и продолжают способствовать прогрессу в этой области.

5

Ненадлежащее использование и вредоносные атаки

Темы этой главы

• Как генеративные модели могут использоваться для вредоносных атак

• Невольное участие чат-ботов в политических дебатах

• Причины галлюцинаций и методы их устранения

• Ненадлежащее использование чат-ботов в профессиональной деятельности в специализированных областях знаний

С тех пор как ChatGPT стал доступен широкой публике в ноябре 2022 года, люди рассказывали о примерах его ненадлежащего использования, которые наблюдали или находили сами в ходе тестирования, а также размышляли о том, какие еще непредусмотренные применения можно придумать. В статье The Atlantic утверждалось: «ИИ скоро сделает социальные сети (гораздо) более токсичными»1. На ZDNET уже примерно через месяц после выпуска инструмента сообщалось: «С помощью ChatGPT уже пытаются написать вредоносные программы»2. Поскольку пообщаться с моделью в чате мог любой желающий, источниками таких сообщений были не эксперты в области ИИ, а простые люди, которые делились своими находками в X (Twitter) и Reddit. Как известно, в области кибербезопасности и дезинформации, когда дело доходит до использования новых инструментов, люди проявляют безграничную изобретательность в достижении своих целей.

В этой главе мы рассмотрим несколько форм злоупотребления большими языковыми моделями (LLM). Кроме целенаправленного злонамеренного использования, мы обсудим несколько случаев, когда пользователи доверяли LLM задачу, для выполнения которой эти модели не подходят. На сегодня самым большим недостатком LLM является их склонность к галлюцинациям, или генерации неверных ответов. Мы обобщим способы обучения моделей, повышающие их правдивость, и дадим рекомендации для уменьшения случаев намеренного или случайного ненадлежащего использования путем комплексного применения технических средств и обучения пользователей.

5.1. Кибербезопасность и социальная инженерия

Израильская компания по безопасности Check Point обнаружила на известном подпольном хакерском форуме сообщение хакера, который тестировал ChatGPT с целью «создания модификаций вредоносных программ». Хакер собрал и распространил в интернете вредоносное ПО для Android, созданное чат-ботом. На том же форуме еще один хакер загрузил написанный с помощью ChatGPT код на Python для шифрования файлов. В другом случае хакер с помощью