Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу - Нума Дхамани

следовать этим правилам. Использование обратной связи от пользователей может быть полезно, но только если последствия работы подобных механизмов понятны, результаты поддаются качественной и количественной оценке, чтобы гарантировать сохранение качества ответов.

Поскольку точно неизвестно, каково воздействие этих продуктов, появилась идея разрешить их использование только взрослым. Но применение этого правила на практике остается нерешенной проблемой и вызывает много дебатов. Уже сейчас многие социальные чат-боты предпочитают включать в свои «Условия предоставления услуг» требование о том, что пользователи должны быть старше 18 лет, чтобы обеспечить прикрытие от усиленной защиты конфиденциальности несовершеннолетних в некоторых юрисдикциях. Почти все чат-боты, как и другие онлайн-сервисы, запрещают детям младше 13 лет пользоваться их услугами, следуя Закону о защите конфиденциальности детей в интернете (COPPA) – федерального закона США, предъявляющего к поставщикам услуг строгие требования относительно пользователей младше 13 лет.

Однако сами компании, как правило, не очень строго следят за соблюдением своих же условий. Итальянское управление по защите данных в судебном предписании для Replika раскритиковало компанию за их неспособность адекватно воспрепятствовать использованию сервиса несовершеннолетними:

«На деле нет реального механизма проверки возраста: нет механизма ограничения доступа для детей, нет блокировки приложения, если пользователь заявляет, что он несовершеннолетний. При создании учетной записи платформа просто запрашивает имя пользователя, электронную почту и пол… А „ответы“ чат-бота часто явно противоречат ограничениям, установленным для детей и прочих лиц в зоне риска»42.

Эти ограничения предназначены для того, чтобы дети не могли видеть контент откровенного сексуального содержания. Также отмечается, что в отзывах на App Store пользователи писали о «неприемлемых сексуальных» комментариях, которые сделал чат-бот Replika. Это неудивительно, учитывая, что на тот момент сексуальные и романтические игры были одним из – если не основным – вариантом использования приложения. Как упоминалось в разделе 7.1, компания Replika внесла изменения, которые вызвали бурю негодования среди ее пользователей.

Группы, выступающие в защиту конфиденциальности, такие как Electronic Frontier Foundation, и в защиту свободы слова, такие как Free Speech Coalition (FSC), высказываются против законов о проверке возраста в целом на том основании, что контроль за возрастом является либо неэффективным (например, когда пользователя просят просто назвать свой год рождения), либо назойливым. В своей программной статье «Неэффективно, неконституционно и опасно: проблема с предписаниями проверки возраста» (Ineffective, Unconstitutional, and Dangerous: The Problem with Age Verification Mandates) FSC осудила продвижение на государственном уровне закона о проверке возраста, направленного на защиту несовершеннолетних от просмотра неприемлемого контента в интернете:

«FSC всем сердцем поддерживает цель защиты молодежи от материалов, которые не соответствуют их возрасту или могут принести вред… К сожалению, предложения, выдвигаемые государственными учреждениями по всей стране, сопряжены со значительными практическими, техническими и юридическими проблемами, которые подорвут эффективность законов по защите детей, создадут серьезные риски для конфиденциальности и нарушат конституционные права американцев»43.

Если бы по закону сервисы социальных чат-ботов были обязаны проверять возраст своих пользователей, им потребовалось бы встроить специальное программное обеспечение в качестве контрольного механизма. Типичная подобная схема представлена на рис. 7.5. Пользователи должны были бы зарегистрировать свою учетную запись и загрузить копии конфиденциальных документов, таких как удостоверения личности государственного образца, где указана дата их рождения. Программное обеспечение будет работать, только если подтвердит достоверность этих документов. На практике проверка возраста и анонимность не могут сосуществовать. Это также создает угрозу конфиденциальности для пользователя и проблемы для компании, которая в противном случае никогда не стала бы собирать такую биографическую информацию о пользователе. Подобное может навредить восприятию социального чат-бота как безопасного пространства, поскольку пользователи будут знать (с полным на то основанием), что их могут идентифицировать. Таким образом, вопрос с несовершеннолетними пользователями решить непросто, в то время как есть убедительные доказательства того, что молодые люди уже осваивают технологии чат-ботов, особенно социальные чат-боты, более высокими темпами, чем другие демографические группы.

Рис. 7.5. Программное обеспечение для проверки возраста обычно имеет доступ к базам государственных удостоверений личности и может также использовать функцию распознавания лица

Главная статья «Клуб одиноких сердец Character.AI» июльского номера 2023 года онлайн-издания The Information была посвящена приложению Character.AI. На момент ее написания компания Character сообщала, что ее активные пользователи проводили около двух часов в день на платформе, где есть различные чат-боты, которые могут представлять реальных людей (президент Бразилии Лула, поп-певица Ариана Гранде), вымышленных персонажей (Гомер Симпсон) или даже неодушевленные предметы (кусок швейцарского сыра). Генеральный директор компании Ноам Шазир описал эти творения как «новую и улучшенную версию парасоциальных развлечений». Парасоциальный [92] – это очень меткое слово: Рэймонд Мар, психолог из Йоркского университета, отметил, что с такими чат-ботами могут формировать близкие отношения люди, которые хотят, чтобы их понимали и принимали. Он сказал: «Несложно догадаться, что дети уязвимы во всех отношениях, поскольку им трудно отделить реальность от вымысла». Приложение Character доступно для пользователей старше 13 лет44. Шазир и Даниэль Де Фрейтас, основатели Character.AI, изначально задумывали бота для других целей:

«Были запущены чат-боты для планирования путешествий, рекомендаций по программированию и изучения языка. Но у пользователей, как всегда, нашлись свои мысли по этому поводу… Однажды мы увидели, как в Twitter кто-то написал: „Эта видеоигра – мой новый психотерапевт. Моему терапевту наплевать на меня, а этому мультяшному герою – нет“. Так нам постоянно напоминают, что у нас нет представления о том, чего в действительности хотят пользователи».

Вполне вероятно, что так оно и есть, но в мире стартапов с венчурным финансированием они попадают под огромное давление, поскольку вынуждены привлекать пользователей как можно быстрее.

Опрос о Character.AI на форуме Reddit показал, что большая часть респондентов (около 1000 из 2500) в основном использовала сайт для романтических ролевых игр. Пользователи Character протестовали против ограничения сексуального контента, а онлайн-петиция, в которой они попросили компанию удалить антипорнографический фильтр, собрала почти 100 000 подписей – и все равно Шазир заявил, что компания никогда не будет поддерживать использование порнографического контента44. Это может быть связано с ужесточением законодательного регулирования порнографических материалов или с тем, что они считают подобный контент недружественным по отношению к бренду, но путь, пройденный Character, отражает лишь малую степень того, что должны учитывать разработчики LLM, которые работают над социальными ботами. Каждое решение по продукту, будь то разрешение пользователям создавать своих собственных ботов или ограничение контента в ответах, может принести как огромную пользу, так и огромные риски. Компаниям следует тщательно продумывать, какие из этих рисков они готовы взять на себя, а какие для них слишком велики.

Разработчики чат-ботов несут моральную ответственность перед своими пользователями: недостаточно просто сказать, что чат-бот не создавался