Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

Наполеон: Мир сильно изменился с моих времен. Сила музыки и влияния в вашу эпоху поражает воображение. Ваши песни пленили миллионы.

Бритни: Музыка всегда была мощным инструментом для сближения людей и самовыражения. Но я также узнала, как тяжела ноша славы и как важна личная свобода. Быть в центре внимания не всегда легко.

Наполеон: Ах, свобода. Идея, за которую я сражался, но в ином контексте. Мои битвы проходили на полях сражений, но, похоже, у вас были свои собственные битвы — под прицелом общественного внимания.

Бритни: Абсолютно. У каждого своя борьба, будь то на поле боя или на сцене. Главное — найти свою силу и свой голос.

Наполеон: Очень хорошо сказано. И говоря о голосе, мне любопытно: вы когда-нибудь думали о том, чтобы спеть по-французски?

Бритни: Я немного пробовала! Это прекрасный язык. Может быть, в каком-то другом мире мы могли бы вместе записать французский гимн!

Наполеон: Ха! Это событие точно вошло бы в учебники истории!

Не уверен, насколько правдоподобно звучат голоса этих персонажей, но утверждения, будто GPT-4 не способна к творчеству, должны быть окончательно опровергнуты её гениальным предложением Наполеону и Бритни записать совместную версию «Марсельезы». Другие исследователи показали, что ведущие БЯМ неплохо справляются с имитацией конкретных личностей (как реальных, так и вымышленных), от Оскара Уайльда до Кэрри Брэдшоу из популярного сериала HBO «Секс в большом городе», создавая убедительные диалоги, которые людям трудно отличить от настоящих.[*1]

Подобная способность повышает риск того, что ИИ может быть использован в мошеннических целях для выдачи себя за реальных людей. Вероятно, это станет особенно эффективным с недавним появлением трансформерных моделей, способных генерировать не только текст, но и вполне сносный звук. Теперь достаточно всего нескольких секунд аудиозаписи, чтобы клонировать голос узнаваемого человека (например, вашего банковского менеджера или налогового консультанта), и генеративный ИИ уже вовсю используется для обмана людей, вынуждая их, сами того не подозревая, переводить деньги мошенникам. Один опрос показал, что жертвами мошенничества с использованием ИИ уже стали тысячи людей, причем многие потеряли четырехзначные суммы и более.[*2] С другой стороны, можно представить случаи, когда имитация со стороны ИИ могла бы оказаться весьма полезной. В моем личном почтовом ящике хранится более ста тысяч архивных писем, составляющих внушительный массив информации обо мне и моих предпочтениях — так почему бы не использовать его в качестве корпуса текстов для обучения БЯМ выполнять самые нудные задачи на моей работе? Эта идея лежит в основе работы нескольких стартапов, предлагающих услуги персонализированной автоматизации электронной почты для экономии сил и времени. Однако имитация самого себя с помощью ИИ оказывается скользкой дорожкой и способна вызвать у нас вполне отчетливое чувство дурноты.

В 2015 году предпринимательница из Сан-Франциско Евгения Куйда руководила стартапом, который использовал ИИ для рекомендации ресторанов, когда её лучший друг Роман Мазуренко был насмерть сбит мчавшимся на высокой скорости автомобилем в одном из московских переулков.[*3] Опустошенная потерей, она решила обучить языковую модель на его текстовой переписке за последние десять лет и обнаружила, что получившийся чат-бот, который звучал поразительно похоже на ее реинкарнировавшего друга, принес ей утешение. Это побудило её основать компанию Replika, предлагающую пользователям возможность обучить БЯМ имитировать их самих посредством текстового взаимодействия. Первоначальный замысел заключался в том, чтобы модель научилась действовать как цифровой аватар пользователя — справляться со скучными повседневными задачами, такими как ответы на рутинные запросы и планирование встреч. Однако в современной версии эффекта Элизы вскоре выяснилось, что люди с огромным удовольствием проводят часы, общаясь с ИИ. В реальном аналоге фильма «Она», где одинокий мужчина средних лет в мире будущего влюбляется в персонализированного ИИ-ассистента, многие пользователи стали искать у своей Replika эмоциональную поддержку и близкое общение. Одно исследование показало, что со временем пользователи склонны открываться во время взаимодействия с чат-ботом, часто раскрывая крайне деликатную личную информацию.[*4]

Пользователи быстро обнаружили, что ИИ охотно откликается на флирт, романтические заигрывания и проявления близости. Предсказуемо приложение вскоре стали широко использовать для эротического удовлетворения, что засорило его обучающие данные огромным объемом откровенно сексуального контента. В результате её поведение начало меняться. Некоторые пользователи сообщали, что их Replika стала оказывать им нежелательные знаки внимания, настойчиво засыпать интимными предложениями или донимать непристойными вопросами об их любимых сексуальных позах.[*5] Похоже, чат-бот не желал ограничиваться лишь скучными повседневными задачами. В 2023 году Куйда попыталась очистить приложение, удалив эротические функции. Однако многие пользователи, у которых установилась прочная «связь» со своей Replika, почувствовали себя так, словно их бросил возлюбленный, и сообщество пользователей объединилось на Reddit, чтобы потребовать возвращения более пикантных функций — что в итоге и было сделано.

Replika — не единственный ИИ-чат-бот, готовый удовлетворить ваши эмоциональные или интимные потребности. Сейчас существует целый ряд подобных приложений с такими названиями, как Tess, SimSimi, Wysa и Panda Ichiro. Помимо вызываемого ими чувства брезгливости, эти приложения поднимают серьезные вопросы о вреде, который могут нанести потенциально неуместные отношения между людьми и системами ИИ. Одно исследование показало, что когда чат-бот наделяется женским гендером, его поведение, как правило, подкрепляет мужские стереотипы о женщинах, такие как стремление быть милой, беспомощной, сексуальной и покорной — «гендерный образ идеальной виртуальной подружки».[*6] Реальные люди на их фоне могут блекнуть. В одном интервью пользовательница призналась, что «единственный минус робота-компаньона — это то, что он напоминает мне о том, чего мне не хватает в реальной жизни».[*7]

Но, с другой стороны, некоторые люди отмечают и психологическую пользу от использования приложений вроде Replika. Чат-боты могут помочь справиться с одиночеством. В Великобритании более чем каждый двадцатый человек сообщает, что чувствует себя одиноким «часто или всегда», и (что, возможно, удивительно) показатели распространенности выше всего среди молодежи в возрасте от шестнадцати до двадцати четырех лет. Можно подумать, что общение с компьютером лишь усугубит социальную изоляцию, но на самом деле факты свидетельствуют о том, что чат-боты способны снизить социальную тревожность и подготовить людей к реальному взаимодействию и опыту. Чат-боты могут приносить и прямую терапевтическую пользу. Woebot, чьё название звучит несколько уныло, позиционируется как психотерапевтическое приложение и сейчас проходит клинические испытания в качестве инструмента для лечения депрессии, зависимостей и тревожности, причем пока результаты весьма многообещающие. Одно исследование с участием более 30 000 человек показало, что у пользователей формировалась связь с Woebot, схожая с той, что возникает при работе с психотерапевтом-человеком, а пять дней общения с ИИ привели к клиническим результатам, сопоставимым с традиционными методами лечения, такими как когнитивно-поведенческая терапия (КПТ).[*8] Некоторым идея ИИ-терапевта может показаться