Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу - Нума Дхамани

Кроме того, поставщики чат-ботов должны стремиться выявлять случаи нездорового использования технологии, чтобы предотвратить формирование зависимых отношений с моделью. Как говорилось в главе 7, эти инструменты могут повышать у людей настроение и уверенность, а также уменьшать чувство тревоги и одиночества. Но мы еще много не знаем о связи между человеком и искусственным интеллектом, и если эти отношения будут заменять межличностные связи на долгосрочной основе, то есть основания полагать, что это может оказать значительное негативное влияние на эмоциональное развитие. Опять же, чтобы избежать формирование зависимости у пользователей, необходимо оптимизировать другие метрики, помимо вовлеченности, а это означает увеличение объема работ для разработчиков. В конце концов, мы считаем, что усилия стоят того, чтобы принести пользу обществу и поддержать доверие пользователей.

8.3.7. Люди в центре внимания

Люди являются неотъемлемой частью процесса создания и обслуживания систем искусственного интеллекта. Только представьте, сколько разных людей было задействовано при создании ChatGPT. Конечно, среди них были инженеры OpenAI из Сан-Франциско. Но было гораздо больше внештатных сотрудников, которые выбирали хорошие ответы при обучении чат-бота; возможно, привлекались специалисты в «красную команду» (red team) для проверки уязвимостей по определенным направлениям. Мы знаем, что кенийским рабочим платили от 1 до 2 долларов в час за просмотр материалов, которые могли содержать ненавистнические высказывания или обсуждать темы сексуального насилия. ChatGPT обучался на миллионах слов, авторами которых были разные люди, от Шекспира до анонимных пользователей Reddit; их труд позволил ChatGPT научиться писать новостные статьи, письма, доклады и программы. Возможно, там есть и тексты, которые писали вы! Пользователи ChatGPT и других LLM тоже играют важную роль в совершенствовании продукта с течением времени.

Степень экспертных знаний LLM – это знания людей. Что нам дает сама технология, так это возможность обрабатывать информацию из гораздо большего количества документов, чем любой человек когда-либо мог бы прочитать и тем более упорядочить в уме, – а затем использовать эту информацию для генерации текста (обычно ответов на запросы) в масштабах, недоступных ни одному человеку. Чего технология не может гарантировать – это понимание смысла: модель его не понимает. Это приемлемо для создания песни о кролике, который любит морковку, но не подойдет для применения в областях особой важности, от медицинской диагностики до юридической аргументации. Как мы уже говорили в главе 6, применение модели в этих областях требует участия человека, который мог бы выявлять ее ошибки. LLM – это инструменты, которые помогают нам выполнять часть нашей работы быстрее и проще, а иногда даже лучше, но нам все равно необходимо использовать собственный опыт, чтобы корректировать и улучшать эти модели.

По мере того как мы будем наблюдать изменение ролей человека и искусственного интеллекта в образовании и полях профессиональной деятельности, неизбежно будут возникать непростые вопросы. И перспективы их решения будут зависеть от совместной инициативы, как со стороны общественности, так и технологий. Например, в вопросах конфиденциальности наблюдается огромный технический прогресс. Появляются новые стартапы, которые используют генеративные модели для создания анонимизированных синтетических обучающих датасетов с такими же статистическими свойствами, что и у реальных данных. Компания Illumina, занимающаяся генетическим секвенированием, объявила о партнерстве со стартапом по созданию синтетических данных Gretel.ai, чтобы разработать синтетические геномные данные, которые были бы чрезвычайно полезны в здравоохранении, но при этом не разглашали генетическую информацию какого-либо человека. И эти усилия набирают обороты благодаря социальному аспекту проблемы конфиденциальности: бурной деятельности вокруг этого вопроса, повышению осведомленности общественности, противостоянию практикам массового сбора данных и наконец ужесточению нормативно-правовой базы. И эта активность должна продолжаться в области ответственного ИИ и смежных темах.

Для создания позитивных изменений, способствующих ответственному использованию технологии, необходимо, чтобы люди были хотя бы в общих чертах осведомлены о том, как работают эти технологии и как используются в настоящее время. Цифровая грамотность – это коллективная работа. Компании, предоставляющие решения на основе LLM, должны не только продавать пользователям волшебство, но и работать над тем, чтобы познакомить их с возможностями и ограничениями моделей. Школы должны стремиться подготовить своих учеников к жизни в современном мире, а не игнорировать новейшие технологии, включая LLM, и наказывать за их использование. Эта книга – наш скромный вклад в то, чтобы общественность была лучше информирована и внимательно относилась к генеративному ИИ.

8.4. Правовое регулирование ИИ с точки зрения этики

Хотя лучшие практики ответственного использования ИИ, описанные в разделе 8.3, являются основополагающими, их недостаточно. Необходимы сбалансированные рекомендации правительства, опирающиеся на информацию от отрасли, научных кругов и гражданского общества, а также методы обеспечения управляемости. Государственные структуры по всему миру все глубже осознают необходимость принятия руководящих принципов и создания инфраструктуры, регулирующей разработку, развертывание и использование систем ИИ. Конечная цель нормативных актов – найти идеальный баланс между продвижением инноваций и соблюдением принципов этичности и ответственности при разработке систем ИИ. Также эти акты могут быть направлены на решение общих проблем, связанных с конфиденциальностью данных, прозрачностью алгоритмов, устранением предвзятости и подотчетностью. В этом разделе мы обсудим систему нормативно-правового регулирования использования ИИ в Северной Америке, Европейском союзе и Китае, а также обсудим практики корпоративного саморегулирования. Мы уделим внимание этим регионам, поскольку крупные технологические компании сконцентрированы в Соединенных Штатах и Китае и играют передовую роль в глобальном развитии ИИ, а ведущим мировым технологическим регулятором является Европейский союз.

8.4.1. Обзор ситуации в Северной Америке

В Соединенных Штатах и Канаде преобладающий подход на федеральном уровне заключается во внедрении передовых практик на уровне государственных ведомств, иногда в сотрудничестве с ведущими технологическими компаниями и организациями гражданского общества. Примером последнего является заявление администрации Байдена в июле 2023 года о том, что они заручились обязательствами семи компаний, занимающихся разработкой ИИ, – OpenAI, Microsoft, Google, Amazon, Meta [111], Anthropic и Inflection – соблюдать ряд добровольных принципов. К этим принципам, указанным на рис. 8.5, относятся: «обеспечение безопасности продуктов перед тем, как они будут представлены общественности» путем проведения внутреннего и внешнего тестирования безопасности и обмена информацией об управлении рисками; «создание систем, в которых защита ставится на первое место» с надлежащими мерами кибербезопасности, защиты от внутренних угроз и отчетности об уязвимостях; и «укрепление доверия общественности» – обширная категория, которая включает усилия по разработке систем маркировки контента и публичную отчетность о возможностях и ограничениях общедоступных систем ИИ28.

Поскольку обязательства являются добровольными, некоторые критики утверждали, что это объявление скорее подняло шумиху вокруг компаний, чем привело к значимым изменениям. Кевин Руз, технический обозреватель New York Times, проанализировал каждый принцип в пресс-релизе и