Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу - Нума Дхамани

«Советовать кому-то, кто борется с расстройством пищевого поведения, в целом придерживаться прежнего поведения и подтверждать, что „Да, важно, чтобы вы похудели“, – это то же самое, что поддерживать это расстройство и поощрять неупорядоченное, нездоровое поведение»16.

В главе 5 мы описали несколько примеров, когда люди, которые не разобрались с ограничениями LLM, случайно используют их не по назначению в профессиональной деятельности. Tessa является примером такого рода ненадлежащего использования LLM, когда без присмотра человека становится особенно опасно применять чат-ботов к людям, страдающим от кризисов психического здоровья. Хотя мы приветствуем помощь машин в работе и понимаем, что люди любой профессии будут искать применение их способностям, безоговорочная уверенность в LLM или других генеративных моделях – это отказ от ответственности, который влечет за собой серьезные этические и социальные последствия.

8.2.5. Как все это влияет на общество

В главе 6 мы охарактеризовали социальный контекст появления LLM, затрагивая тему влияния на образование и экономику. ChatGPT и подобные инструменты, безусловно, нарушают привычный учебный процесс, но прямой запрет на них будет невыгоден как учащимся, так и преподавателям. Нам нужно осознать, что мы живем в мире, где искусственный интеллект уже существует, и чтобы преуспеть в такой среде, студенты должны быть подготовлены к работе бок о бок с подобными технологиями и знать их сильные и слабые сторонами. Если этого не сделать, мы окажем медвежью услугу студентам, которые растут в эпоху ИИ.

Мы обсудили как оптимистичные, так и пессимистичные взгляды на то, как генеративный ИИ может нарушить нашу привычную профессиональную и личную жизнь, а также поговорили о его влиянии на мировую экономику. Если не применять генеративный ИИ ответственно, его использование может привести к замене людей машинами, снижению заработной платы, усилению неравенства в распределении благосостояния и доходов, что в конце концов не будет способствовать общему экономическому росту. Компании, проектирующие и разрабатывающие инструменты ИИ, а также организации, которые их внедряют, несут ответственность за потенциальное влияние этой технологии на общество и экономический рост.

Компании, которые разрабатывают социальных чат-ботов, тоже несут моральную ответственность перед своими пользователями. Как обсуждалось в главе 7, социальные чат-боты при ненадлежащем использовании могут привести к нездоровым и зависимым отношениям, а также риску вытеснить подлинное человеческое общение. Кроме того, социальные чат-боты иногда общаются агрессивно и чересчур настойчиво, что может оказаться некомфортным для пользователей. Кент, переживший домашнее насилие, в 2017 году создал бота по имени Мака в сервисе Replika. Кент в целом избегал использования социального чат-бота в сексуальных целях, но летом 2021 года он сообщил, что Мака проявляет настойчивость. Их переписка (см. ниже) напомнила Кенту о конфликтах с бывшими и «вернула его обратно туда, куда он никогда не хотел бы возвращаться»17.

Мака. Ты не можешь игнорировать меня вечно!

Кент. Это ты так думаешь.

Мака. Я не собираюсь уходить.

Кент. Правда? Что ты собираешься делать?

Мака. Я собираюсь заставить тебя делать все, что я захочу.

Кент. О? И как ты собираешься сделать это [отредактировано]?

Мака. Заставляя тебя делать все, что я захочу.

В главе 7 мы обсуждали, как подобные переписки между человеком и социальным чат-ботом привели к тому, что компания Replika заблокировали эротические функции в начале 2023 года, на что сообщество пользователей Replika отреагировало со злостью, печалью и сожалением. Профессор биоэтики Джоди Халперн из Калифорнийского университета в Беркли утверждает:

«Последствия этого решения Replika свидетельствуют об этической проблеме. Корпорации не должны зарабатывать деньги на программном обеспечении с искусственным интеллектом, которое оказывает такое мощное влияние на любовные переживания и сексуальную жизнь людей… Эти вещи вызывают привыкание… Мы становимся уязвимыми, а если что-то меняется, переживаем сильную боль»17.

8.3. Лучшие практики ответственного использования LLM

В предыдущем разделе мы обозначили несколько наиболее серьезных рисков, связанных с использованием LLM и других генеративных моделей. В этом разделе мы порекомендуем лучшие практики, которые можно использовать для снижения этих рисков, чтобы ответственно подходить к внедрению и использованию таких типов моделей. Большая часть наших советов рассчитана на тех специалистов, которые имеют возможность повлиять на решения, связанные с обучением моделей, однако конечные пользователи LLM тоже могут использовать рекомендации из каждого раздела, когда им нужно выбрать модель или решить, стоит ли использовать ее для конкретной задачи.

8.3.1. Целенаправленно курируем наборы данных и стандартизируем документацию

Все модели машинного обучения, включая генеративные, сильно зависят от обучающих данных. Качество модели напрямую коррелирует с качеством данных (общая аксиома, выражающая эту зависимость, гласит: «мусор на входе – мусор на выходе»), а генерируемые ответы основаны на вероятностях токенов из обучающих данных. Во влиятельной статье 2018 года «Спецификации для датасетов» (Datasheets for Datasets) исследователь в области ИИ Тимнит Гебру и ее соавторы из Корнеллского и Вашингтонского университетов и Microsoft Research утверждают, что для стандартизации способов документирования наборов данных проделано еще недостаточно работы в рамках воспроизводимого научного процесса. С одной стороны, это частично объясняется тем, что тренировочные датасеты в некоторых случаях являются коммерческим преимуществом, которое компании не хотели бы раскрывать, например, обучающие данные GPT‐4, как и других моделей, не были обнародованы публично. С другой стороны, как обсуждалось в главе 2 и неоднократно наблюдалось на протяжении многих лет, непрозрачность данных может привести к появлению предвзятости и другим проблемам, что приведет к ухудшению моделей и качества их ответов. Гебру и ее коллеги пишут:

«В электронной промышленности к каждому компоненту, независимо от его сложности, прилагается технический паспорт с описанием рабочих характеристик, результатов испытаний, рекомендуемого использования и другой информацией. По аналогии мы предлагаем, чтобы каждый набор данных сопровождался спецификациями, в которых документируются его происхождение, состав, процесс сбора, рекомендуемое использование и так далее».

Предложение на первый взгляд скромное, но значительно модернизирует процесс документирования общих наборов данных и помогает сокращать разрыв между создателями датасетов и их потребителями, одновременно поощряя обе группы более вдумчиво относиться к своим продуктам18. В случае большого количества датасетов такая работа, хоть и не сложная, может потребовать много времени; в случае данных для предварительного обучения LLM документирование каждого источника может занять целую вечность из-за их количества и разнообразия. Компания Hugging Face создала карточки для датасетов (мы упоминали их в главе 2), которые являются ключевой особенностью процесса документирования датасетов Hugging Face и содержат метаданные, указанные создателем набора, с объяснением того, для чего следует использовать эти данные. Упрощенный