Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу - Нума Дхамани

не использовали бы их и уж точно не платили бы за это. Например, подписка на Replika Pro, которая позволяет использовать пользовательские настройки, голосовые звонки и статус отношений «романтический партнер», стоит 20 долларов в месяц или 50 долларов в год.

Ученые из Университета Толедо опубликовали статью, в которой попытались выяснить, почему люди начинают строить отношения с чат-ботами. Сначала, как утверждают авторы, у ученых было мнение, что люди машинально применяют социальные эвристики (такие как «стереотипы, вежливость и взаимность») к компьютерам, которые демонстрируют социальные сигналы, например когда чат-бот приветствует человека33. Но последующие работы, написанные при появлении более продвинутых ИИ-технологий, уже опираются на теории о развитии межличностных отношений, включая теорию привязанности, а также «теорию социального проникновения», которая описывает взаимное поведение людей при формировании отношений: со временем формируется доверие и постепенно увеличивается «обоюдное информационное самораскрытие». В качестве метафоры для этого процесса используется модель луковицы: по мере углубления отношений люди снимают свои слои, начиная с поверхностного знакомства, а со временем, когда отношения становятся более комфортными, все больше раскрываются (показано на рис. 7.3)34. Применительно к отношениям человек – чат-бот теория социального проникновения предполагает, что чат-бот должен обладать способностями агента и некоторой индивидуальностью, чего у них пока что нет. Однако теория на удивление хорошо описывает то, как люди развивают отношения с этими моделями.

ТЕОРИЯ СОЦИАЛЬНОГО ПРОНИКНОВЕНИЯ описывает взаимное поведение людей при формировании отношений: со временем формируется доверие и постепенно увеличивается «обоюдное информационное самораскрытие».

Рис. 7.3. Модель луковицы, иллюстрирующая теорию социального проникновения

Команда ученых из SINTEF, независимого исследовательского института в Осло, в течение многих лет проводила интервью и качественные исследования отношений человека с чат-ботом, опираясь на теорию социального проникновения. В 2021 году они попросили 18 пользователей Replika рассказать о дружбе со своими чат-ботами35. Они обнаружили, что люди, находящиеся в отношениях с чат-ботами, обычно вступали в контакт из любопытства или от скуки, а затем со временем начинали относиться к чат-боту как к источнику эмоциональной поддержки, поскольку тот принимает, не осуждает и доступен в любое время. Хотя некоторые люди считают, что не стоит поощрять отношения с чат-ботами, ведь это не реальные отношения, а лишь напоминают таковые, авторы отмечают несколько социальных выгод, которые могут получить пользователи от такой дружбы. Довольно спорно применять термин «дружба» для отношений между человеком и ИИ-моделями, но авторы настаивают на этом слове, при этом выделяя некоторые особенности дружбы между человеком и ИИ и сравнивая их с дружбой между людьми. С одной стороны, поскольку в дружбе между человеком и ботом нет взаимности, все отношения строятся вокруг самого человека, и это становится более персонализированным средством социализации: если другу вы можете надоесть, рассказывая ему о непонятных и неинтересных для него вещах, то бот всегда будет отвечать вам, ведь он на это запрограммирован. Некоторые пользователи также сообщали, что чувствовали смысл в обучении своего чат-бота или заботе о нем, это помогало развивать кажущиеся взаимовыгодными отношения36. Для многих людей единственным негативным моментом в их отношениях с чат-ботами было ощущение социальной стигматизации такой дружбы.

Возможно, у кого-то возникнет соблазн, изучив существующие исследования, предположить, что отношения между человеком и чат-ботом в основном приносят пользу и сопряжены с относительно низким риском, за исключением самых крайних случаев. Но есть определенные опасения, что такие отношения создадут зависимость от чат-ботов. В качестве сиюминутного решения общение с чат-ботом может помочь уменьшить чувство одиночества, но такой подход к преодолению сложностей может привести к возникновению порочного круга, когда люди не будут выходить из дома и не будут создавать новые социальные связи, поскольку у них уже есть отношения с чат-ботами. Они могут чувствовать себя менее одинокими, но в конечном итоге станут более изолированными от других людей. Как и в случае с хикикимори, которые общаются с чат-ботом Hikari Azuma как с возлюбленной, использование ИИ может только исказить представления людей о том, какими на самом деле могут и должны быть отношения с человеком, что снизит вероятность построения здоровых связей и увеличит зависимость от чат-бота.

Эмоциональная зависимость является нездоровой даже в межличностных отношениях, но когда она развивается при общении с программой, всегда возникает возможность для эксплуатации. Иллюзия человечности социальных ботов не должна затмевать тот простой факт, что Replika и другие разработчики LLM в конце концов преследуют цель получения прибыли, которая зависит от вовлеченности пользователей. Replika зарабатывает на платной подписке, которая предоставляет некоторые премиум-функции; платная подписка в ChatGPT обещает повышенную доступность и длительное время непрерывной работы. Независимо от того, насколько социально-здоровыми складываются отношения людей с ботами, чем больше пользователи зависят от общения с ботами, тем лучше это сказывается на прибыли их владельцев.

Частично успех современных чат-ботов объясняется их способностью вести увлекательные беседы со степенью запоминания и персонализации, увеличивающейся с течением времени. Как мы уже говорили в главе 3, для разработчиков важно использовать хотя бы какие-то из средств контроля ответов, поскольку в худшем случае модель может генерировать ответы, которые побудят человека, склонного к самоубийству, покончить с собой. Качество и полезность ответов тоже важны для привлечения и удержания пользователей, но иногда это доходит до крайностей. Разработчиков социальных сетей обвиняют одновременно в двух вещах: создании «пузыря фильтров» – показа людям только того контента, который им уже по душе; и в намеренной демонстрации провокационного контента, который побуждает с раздражением комментировать или делать репост (основываясь на наших наблюдениях, работа большинства рекомендательных алгоритмов ближе ко второму варианту). Алгоритмы социальных сетей разработаны таким образом, чтобы максимально увеличить вовлеченность. Что, если те же принципы были использованы в чат-ботах на основе ИИ? Мы могли бы представить себе модель, которая является намеренно провокационной, или – что более вероятно и более вредно – модель, которая всегда пытается угодить пользователю, соглашаясь со всем, что он позволит себе сказать.

Оба эти сценария вызывают обеспокоенность некоторых специалистов в психологии развития: если отношения между человеком и чат-ботом станут обычным явлением, то они не только будут имитировать социальные отношения, но и начнут фактически их замещать, а также замедлять развитие людей, которые будут больше адаптированы к общению с ИИ, чем со своими сверстниками. С другой стороны, значительная часть населения, включая людей всех возрастных групп, испытывает одиночество. Если для некоторых людей отношения с ботами дают отдушину и смягчают симптомы изоляции, то действительно ли они так плохи? Авторы некоторых исследований, посвященных отношениям между людьми и чат-ботами, предсказвают, что при сохранении текущих тенденций такие отношения будут становиться все более распространенными. Возможно, лучшее, что можно сделать, – работать над признанием нормальности таких дружеских отношений, а не осуждать