Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу - Нума Дхамани

Нам предстоит проделать еще много работы в этой области, чтобы избежать снижения качества, но, учитывая быстрое развитие LLM, можно предположить, что большая часть этого процесса вскоре будет автоматизирована, а контроль человека будет минимальным. Люди же, работающие над безопасностью ИИ, будут уделять внимание в первую очередь тому, чтобы правила были должным образом изучены и применялись надлежащим образом.

3.2. Разбираемся с конфиденциальностью пользователей и коммерческими рисками

Давайте предположим, что юрист берет черновик контракта, вводит текст в виде промпта в диалоговый агент, например в ChatGPT, и просит его предложить изменения. Диалоговый агент создает новую улучшенную версию контракта, и юрист отправляет ее клиенту. Что здесь произошло? Адвокат сэкономил немного времени, воспользовавшись инструментом для составления более выгодного контракта для своего клиента. Но что еще важного произошло? Юрист мог непреднамеренно выдать секретную или конфиденциальную информацию, которую теперь инженеры этой системы могут просматривать и использовать как обучающие данные для диалогового агента, к тому же она может «просочиться» в беседы с другими пользователями. Ну и дела! Если юрист действительно ввел данные клиента без предварительного получения согласия, он также мог нарушить адвокатскую тайну. Неприятно вдвойне!

Еще один риск нарушения конфиденциальности при использовании сложных чат-ботов несут в себе данные, которые пользователи вводят в виде промптов. Когда мы общаемся с этими системами и хотим выполнить задачу или получить ответ, мы непреднамеренно можем передать им секретную или персональную информацию. Эта информация может быть использована для дальнейшей доработки или обучения системы и даже включаться в ответы на запросы других пользователей.

3.2.1. Непреднамеренная утечка данных

Чат-боты жаждут данных: их общительный характер может застать людей врасплох и побудить раскрыть конфиденциальную или личную информацию. Эти диалоги не только просматриваются, но и потенциально могут использоваться для обучения и доработки чат-бота. И теперь не только корпорации обладают вашими персональными данными, но есть и вероятность, что другие пользователи тоже могут ее увидеть во время беседы с диалоговым агентом. Как мы уже обсуждали в предыдущих главах, LLM печально известны своей способностью выдавать конфиденциальную информацию, если им задавать правильные вопросы.

Вскоре после того, как Microsoft в феврале 2023 года выпустила новую функцию Bing AI, люди запаниковали, узнав, что их разговоры доступны сотрудникам компании, которые отслеживали ненадлежащее использование платформы10. Аналогичной политики придерживались и другие компании, предоставляя обученным специалистам доступ к разговорам пользователей, чтобы отслеживать ненадлежащее использование, а также улучшать систему. В разделе часто задаваемых вопросов ChatGPT сообщается: «Пожалуйста, не сообщайте никакой конфиденциальной информации в своих беседах» – поскольку они не могут удалить конкретные промпты из истории пользователей11. В апреле 2023 года, вместе с отказом от обработки пользовательского контента, OpenAI представила возможность отключить в интерфейсе ChatGPT историю чатов, в дополнение к своей стандартной политике отказа от использования пользовательского контента, согласно которой разговоры хранятся в течение 30 дней и просматриваются только тогда, когда это «необходимо для отслеживания злоупотребления», что соответствует их политике использования данных API12. Между тем Google рекомендует: «Пожалуйста, не включайте в переписку с Bard информацию, которая может быть использована для идентификации вас или других лиц», – учитывая, что разговоры будут храниться в течение трех лет13. Bard от Google также позволяет удалять историю взаимодействий14.

Компании, безусловно, знают о недостатках LLM, но важно подчеркнуть, что они сохраняют разговоры, а также любую персональную информацию о пользователях, включая IP-адрес, информацию об устройстве, данные о пользовании и многое другое. В своей политике конфиденциальности OpenAI заходит довольно далеко и заявляет, что они могут передавать личную информацию третьим лицам без дополнительного уведомления пользователя, кроме случаев, предусмотренных законом15. Тем не менее крупные технологические компании, выступая в защиту своих чат-ботов, утверждают, что вы можете пользоваться ими безопасно. Некоторые из этих компаний шифруют или удаляют любую информацию, позволяющую установить личность перед тем, как данные будут загружены обратно в модель для обучения, однако этот подход, как мы уже говорили, никогда не будет полностью безопасным. В разделе 3.3.4 мы более подробно обсудим политику конфиденциальности пользователей, которую устанавливают крупные технологические компании.

Непреднамеренное разглашение важной или конфиденциальной информации – это самая серьезная проблема в области защиты коммерческой тайны для большинства компаний. В апреле 2023 года многие программисты вводили в ChatGPT строки своего авторского кода и просили выявить ошибки или оптимизировать код. В другом случае сотрудник Samsung вставил заметки о встрече в диалоговую платформу и попросил обобщить их. В интернете появились заголовки: «Инженеры-программисты Samsung были понижены в должности за отправку авторского кода в ChatGPT»16. Руководство Samsung ограничило размер промпта, который можно отправлять в ChatGPT из корпоративной сети. Аналогичным образом, спустя несколько месяцев после выпуска ChatGPT, Amazon, JPMorgan, Verizon, Accenture и прочие приняли меры и запретили членам команды вводить конфиденциальную информацию в диалоговые агенты17.

В любой новой технологии, как показывает опыт, рано или поздно может произойти утечка данных. Менее чем через четыре месяца после запуска, 20 марта 2023 года, в ChatGPT произошла первая серьезная утечка данных. Из-за ошибки в открытом коде некоторые пользователи смогли увидеть заголовки из истории чата другого активного пользователя. Кроме того, некоторые пользователи могли видеть имя и фамилию других активных пользователей, тип кредитной карты и последние четыре цифры, электронную почту и платежный адрес18. Как и в случае с любой прорывной технологией, диалоговые агенты сопряжены с потенциальными рисками, включая тот, что из-за ошибок в системе безопасности или из-за использования пользовательского контента в целях дальнейшего совершенствования чат-бота, переданная в эти системы важная и конфиденциальная информация потенциально может быть показана другим пользователям или злоумышленникам.

3.2.2. Как следует вести себя в беседе с чат-ботом

Руководствуясь принципами осторожности в отношении того, что можно сообщать нашим друзьям-чат-ботам, мы составили некоторые рекомендации по работе с этими диалоговыми агентами.

Будьте осторожны с тем, какой информацией вы делитесь с чат-ботом. Если вы не хотите делиться ей с другими, не следует вводить ее в этот инструмент.

Будьте осторожны в использовании этих инструментов на рабочем месте, особенно при обработке конфиденциальной информации о клиентах или компании, а также проприетарного кода и любой информации, которая помечена как внутренняя или конфиденциальная.

Разработайте внутренние правила, определяющие, как можно использовать технологию в бизнес-продуктах или в работе сотрудников. По возможности, прежде чем разрешать сотрудниками использовать эти технологии, исследуйте их в закрытой среде (например, в «песочнице») и оцените все риски.

Ознакомьтесь с политикой конфиденциальности и раскрытия информации, запретите системе собирать ваши данные или удалите их, если это возможно. Аналогично, применяя технологию в вашем бизнесе или