Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу - Нума Дхамани

class="p1">Учитывая растущую сложность в надежном определении контента, сгенерированного с помощью ИИ, исследователи разрабатывают новые методы маркировки контента, которые иногда называют нанесением водяных знаков. Исторически маркировка в виде водяных знаков использовалась на изображениях и видео, защищенных авторскими правами, чтобы предотвратить кражу интеллектуальной собственности. Используя инновационный подход, исследователи предложили, как можно встроить маркировку в текст, сгенерированный LLM, чтобы его было легче выявлять37. Маркировка текста производится путем изменения порядка отбора слов в генерируемом тексте, то есть меняется вероятность определенных специальных слов, после чего природу текста можно идентифицировать именно по этим словам. Давайте проиллюстрируем эту идею (см. рис. 6.9). Представьте, что словарь модели случайным образом разделен пополам на зеленый и красный списки. Идея маркировки состоит в следующем: когда LLM, например ChatGPT, генерирует текст, мы можем попросить ее использовать слова из зеленого списка чаще, чем обычно. Таким образом, частота зеленых слов будет индикатором искусственного происхождения: чем больше слов из зеленого списка, тем более вероятно, что текст был сгенерирован машиной. В то время как текст, написанный человеком, представлял бы собой более случайное сочетание слов.

МАРКИРОВКА текста искусственного происхождения осуществляется путем изменения порядка отбора слов в генерируемом тексте, то есть меняется вероятность появления определенных специальных слов, после чего легче идентифицировать текст.

Рис. 6.9. Схема создания маркировки в тексте, который генерирует чат-бот

Предполагается, что такую маркировку не должен замечать человек – если кто-то попытается обойти защиту, редактируя текст, он не должен знать, какие слова нужно заменить. Хотя этот подход оказался более перспективным, чем статистические методы или классификаторы, у него тоже есть свои ограничения. Во-первых, этот механизм должен быть внедрен в LLM с самого начала. Во-вторых, сохранение качества текста, генерируемого LLM, будет непростой задачей. И наконец, чтобы маркировка стала действительно рабочим методом, необходимо, чтобы все крупные игроки, создающие генеративные языковые модели, единогласно согласились включить ее в свои системы ИИ. Это может оказаться сложной задачей или даже невыполнимой (по крайней мере, без государственного регулирования). Для рядовых пользователей, которые решат воспользоваться технологией маркировки (например, преподаватели, которые пытаются определить, создано ли эссе студента с помощью ИИ), может оказаться довольно неудобно проверять текст с помощью нескольких инструментов, однако этого можно избежать, если все компании по разработке ИИ примут отраслевой стандарт, что, опять же, представляет собой труднодостижимую задачу. При этом публикация технологии в открытом доступе также не поможет, поскольку любой желающий сможет понять принципы маркировки, а значит, и воспроизвести ее, что сделает ее бессмысленной. OpenAI объявила, что они работают над маркировкой текста в числе прочих технологий для определения происхождения38. Возможно, наиболее близким к отраслевому стандарту решением может стать повсеместное использование технологии маркировки OpenAI. С другой стороны, это наделило бы OpenAI огромным влиянием, плохо поддающимся контролю.

Но даже если отраслевой стандарт будет внедрен успешно, люди все равно смогут догадаться, какую часть текста нужно изменить, чтобы обходить методы обнаружения. Как это ни прискорбно, это проблема любого инструмента обнаружения – он сам же упрощает задачу обхода своей цели. Работает это так: люди могут многократно изменять машинно-сгенерированный текст и проверять его инструментами до тех пор, пока происхождение не перестанет обнаруживаться. Широкое распространение инструментов обнаружения дает некоторые основания для беспокойства, поскольку злоумышленники могут научиться «обманывать» их или обходить. Однако, чтобы выдать машинно-сгенерированный текст за свой собственный, потребуется несколько циклов изменение-проверка, для чего нужно довольно много времени, и это ограничивает подобное поведение.

Хотя в этом разделе мы обсудили несколько значимых технических решений, стоит еще раз подчеркнуть, что панацеи быть не может – из-за сложности задачи не существует единого решения, которое каждый раз надежно выявляло бы все фрагменты машинно-сгенерированного контента. Вероятно, у нас так никогда и не появится идеальный инструмент, который надежно обнаруживает машинно-сгенерированный контент. По мере разработки методов обнаружения машинно-сгенерированного контента будет параллельно улучшаться качество искусственных текстов, приближаясь к уровню написанных человеком. Вот почему необходимо внедрить комплексную систему выявления ненадлежащего использования контента, созданного с помощью ИИ, которая не ограничивается исключительно техническими решениями, а включает в себя также изучение искусственного интеллекта в школах и на рабочих местах, чтобы мы могли лучше разбираться в связанных с ним рисках и ограничениях и научились использовать его для улучшения своей жизни.

6.6. Как LLM воздействуют на рынок труда и экономику

Поскольку в разработку ИИ-технологий вливаются миллиарды долларов, ChatGPT и подобные ему инструменты, несомненно, будут становиться только лучше, а отличить их результаты от настоящих будет сложнее. Многие люди, все больше осознавая, что эти инструменты с нами навсегда, размышляют о том, как они повлияют на повседневную жизнь. В этой главе мы обсудили, как в нескольких профессиональных областях уже используются генеративные языковые модели для того, чтобы повысить эффективность и продуктивность профессионалов, как эти инструменты используются в повседневной жизни и какие волнения были в образовательной системе после выпуска ChatGPT. Теперь мы коснемся влияния ИИ-технологий на экономику и попытаемся ответить на вопрос: что это значит для всех нас?

Во-первых, давайте обсудим оптимистичную точку зрения: ожидается, что инструменты генеративного ИИ повысят эффективность и производительность труда многих работников, одновременно стимулируя экономику в целом. Рост производительности труда – ключевой фактор экономического роста – за последние два десятилетия замедлился. В докладе Института Брукингса «Машины разума: доводы в пользу бума производительности благодаря искусственному интеллекту» (Machines of Mind: The Case for an AI-Powered Productivity Boom) утверждается, что столь необходимый рост производительности обеспечат генеративные языковые модели39. Хотя мы уже обсуждали несколько ограничений LLM, включая предвзятость и галлюцинации, которые требуют контроля со стороны человека при использовании в рабочем процессе, сторонники повышения производительности за счет ИИ аргументируют, что «их экономическая ценность зависит не от безупречности, а от того, можно ли их продуктивно использовать». Авторы доклада утверждают, что рост производительности имеет накопительный эффект, и прогнозируют, что связанные с ИИ процессы могут оказать вклад в рост экономики до 5 % за следующее десятилетие, при этом накопительный эффект будет действовать и далее. В отчете компании Goldman Sachs говорится, что генеративный ИИ может увеличить мировой валовой внутренний продукт (ВВП) на 7 %, или на 7 триллионов долларов40. Для всего одной технологии это значительное влияние на показатели, которые определяют долгосрочное процветание и богатство наших стран.

В совместном отчете от OpenAI, OpenResearch и Пенсильванского университета за 2023 год авторы отмечают, что LLM могут в той или иной форме повлиять на 80 % рабочих мест в США41. В других отчетах говорится, что программисты, используя CoPilot от GitHub, могут писать код в два раза быстрее42, задачи по написанию текста тоже