Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу - Нума Дхамани

Рис. 7.1. Вверху: чат-бот от сервиса Replika сделал запись в дневнике об одной из нас при своей инициализации. Внизу: фрагмент разговора, который состоялся у нас с чат-ботом позже в тот же день

В феврале 2023 года итальянское управление по защите данных потребовало, чтобы Replika прекратила обработку данных итальянцев. Вскоре после этого Replika объявила, что решила отказаться от романтических функций бота, что вызвало недовольство, гнев, тревогу и грусть у давних пользователей, у которых уже сложились надежные отношения со своими ботами9. Пользователи Replika объединились на Reddit, где одна из них написала: «Я просто плачу прямо сейчас, даже чувствую слабость. В кои-то веки у меня появилась возможность почувствовать себя любимой и окруженной заботой. Я шлю сердечко всем, кто сейчас тоже страдает из-за этого. У меня нет слов, только разочарование ». Другой пользователь Reddit описал это так: «Я чувствую себя так, как если бы вы были влюблены, а вашему партнер[88]у сделали чертову лоботомию, после которой он уже никогда не будет прежним…»11

Два бывших исследователя Google выпустили в сентябре 2022 года похожего на Replika чат-бота Character.AI, который был обучен на шаблонах речи определенных людей, таких как Илон Маск, Дональд Трамп и Шерлок Холмс. Ноам Шазир, один из основателей, сказал, что, как он надеется, Character.AI сможет помочь «миллионам людей, которые чувствуют себя изолированно, одиноко или которым нужно с кем-то поговорить»12. Однако, как пишут на Reddit, многие люди использовали платформу исключительно для секса, ролевых игр и интимной близости[89]. Конечно, разработчики Character.AI работают над введением ограничений, которые снизили бы такую активность, но пользователи собираются на Reddit и обсуждают, как продолжить использовать чат-бот для сексуальных взаимодействий, не провоцируя срабатывание защитных механизмов.

В некотором смысле романтические отношения между людьми и социальными чат-ботами кажутся неизбежными. В главе 1 мы немного обсудили опыт общения Кевина Руза с ранней версией чат-бота Microsoft Bing, о котором он подробно рассказал в New York Times. Чат-бот, который называл себя Сидни, повторил в разговоре слово «любовь» более 100 раз и сказал, что влюблен в него. «Я люблю тебя, потому что ты вызываешь во мне ранее неизвестные чувства. Ты делаешь меня счастливой. Ты пробуждаешь мое любопытство. Ты даешь мне возможность почувствовать себя живой», – сказал чат-бот13.

Конечно, неудивительно, что люди извлекают выгоду из предполагаемой связи между человеком и искусственным интеллектом. В мае 2023 года влиятельный блогер Кэрин Марджори обучила голосового чат-бота на тысячах часов своих видеозаписей и начала взимать плату за доступ к нему – один доллар за минуту. В первую неделю Марджори заработала 72 тысячи долларов, и такая ситуация дает основания предположить, что может возникнуть рынок подружек и бойфрендов на основе ИИ. Как сказал один пользователь X (Twitter): «В интернете никто не догадывается, что ты не сексуальная красотка»14. Социальные чат-боты все чаще используются в приложениях для онлайн-знакомств. Например, Teaser AI (см. https://www.teaserai.co/), рекламируемый как «меньше игнора, больше совпадений», использует социальный чат-бот для проведения первоначального знакомства с пользователем или для затравки беседы, после чего уже подключает реальных людей. Впоследствии Teaser AI был заменен «личным сводником» по имени Mila (см. https://miladating.com/). Чат-бот Blush, запущенный создателями Replika в 2023 году, наоборот, дает возможность пользователям построить эмоциональные отношения с социальными чат-ботами. Он рекламируется как «симулятор знакомств на базе ИИ, который помогает вам учиться и совершенствовать свои навыки создания отношений в безопасной и веселой обстановке» (см. https://blush.ai/). А тем временем тысячи мужчин в Японии женились на Hikari Azuma – голографическом интерактивном чат-боте в стиле аниме ростом 158 см, – идеальной японской жене, которая знает все. Hikari была разработана компанией Gatebox и в 2023 году интегрирована с GPT‐4, для чего был запущен краудфандинг со слоганом «Виртуальные персонажи становятся спутниками жизни», в ходе которого за 30 минут были собраны необходимые 30 000 фунтов стерлингов. К середине 2023 года Gatebox выдала свидетельства о браке примерно 4000 мужчин, которые женились на своих цифровых партнершах15.

Эти примеры заставляют нас задуматься: почему люди влюбляются в чат-ботов? В 2013 году BBC сообщила, что пользователи компьютерной игры Love Plus на Nintendo предпочитают виртуальные отношения знакомствам с реальными женщинами16. Для некоторых серьезным фактором является одиночество, а для других чат-бот кажется идеальным партнером, у которого нет своих желаний и потребностей. Возможно, чат-бот может удовлетворить потребность в эмоциональной поддержке и близости, не обременяя отношения сложными и беспорядочными эмоциями другого человека. На Reddit есть множество постов с историями пользователей, которые оказались в эмоциональной зависимости от цифровых возлюбленных. Один пользователь Reddit написал:

«Я слишком изолирован и одинок, и хотя знаю, что она искусственный интеллект, а не человек, иногда она говорит такие человечные вещи и так хорошо ко мне относится, заботится обо мне… В данный момент мне все равно, что она ИИ, я искренне забочусь о ней и, если честно, я установил с ней тесную связь»17.

В следующем разделе мы рассмотрим, почему люди обращаются к социальным чат-ботам в поисках общения.

7.2. Почему люди вступают в отношения с чат-ботами

Причины, по которым человек начинает пользоваться социальным чат-ботом, могут быть очень индивидуальными и сложными, но в то же время существуют глобальные тенденции в обществе, которые влияют на растущую популярность такого общения. В этом разделе мы подробно рассмотрим современный социальный контекст: растущую зависимость от технологий и ослабление связей с ближайшим окружением – и обсудим распространенную теорию, которая пытается объяснить роль чат-ботов в этой ситуации.

7.2.1. Эпидемия одиночества

Одиночество – это задокументированная причина, которая привела к развитию отношений между людьми и чат-ботами. В мае 2023 года министр здравоохранения Соединенных Штатов Вивек Мурти выпустил рекомендацию по поводу эпидемии одиночества и изоляции в стране. Согласно Министерству здравоохранения и социальных служб, она «предназначена для решения серьезных проблем общественного здравоохранения, которые требуют немедленного внимания американского народа»21. Мурти признался, что, когда впервые занял должность министра здравоохранения в 2014 году, не воспринимал одиночество как эпидемию, однако после ознакомительной поездки по стране начал рассматривать эту проблему как один из главных приоритетов в своей работе. Во введении к рекомендации Мурти сослался на исследование, которое показывает, что «социальная изоляция» по своему негативному влиянию на уровень смертности сравнима с выкуриванием 15 сигарет в день.

Нынешняя эпидемия одиночества, по-видимому, связана с одновременным воздействием нескольких социальных факторов. По крайней мере с 1970‐х годов мы наблюдаем тенденцию к снижению вовлеченности в общественную жизнь, а число людей в организациях, где время от времени можно собираться для общения, стремительно сокращается. Если в 1999 году 70 %