Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу - Нума Дхамани

16‐летняя девушка Джейн страстно влюбляется в робота Сильвера, который начинает любить ее все более по-человечески. В XX веке мы встречаем еще несколько примеров выдуманных отношений между человеком и роботом, в частности в сериале «Звездный путь: Следующее поколение» (1987), книгах Айзека Азимова «На пути к Основанию» (Forward the Foundation) (1993) и Ричарда Пауэрса Galatea 2.2 («Галатея 2.2») (1995). Фильм «Она» 2013 года заслужил широкое признание критиков и получил премию «Оскар» за лучший оригинальный сценарий. Фильм рассказывает о виртуальном романе между одиноким мужчиной Теодором и операционной системой со встроенным чат-ботом на основе ИИ, для которого он выбрал имя Саманта. Фильм заостряет внимание на распространенном убеждении об изолирующей силе технологии и парадоксе ее интимности. Сейчас «Она» считается одним из лучших фильмов XXI века2.

Хотя в XXI веке мы все еще встречаем различные художественные [87] и документальные описания романтических отношений между людьми и машинами, многие уже начали исследовать другой вид отношений – дружбу. Книга «Сири с любовью», опубликованная в 2017 году, – это правдивая истории одного года жизни Гаса, тринадцатилетнего подростка с аутизмом, и его связи с Siri, электронным персональным помощником от Apple. Автор книги Джудит Ньюман (мать Гаса) описывает искреннюю и проникновенную историю любви ее сына к чат-боту Siri, призывая нас взглянуть по-другому на отношения с технологией. Это совсем не та любовь, которую Теодор испытывал к Саманте в фильме «Она», – любовь Гаса не привела его к чувству одиночества и оторванности от мира, но переросла в нечто похожее на дружбу.

Для большинства из нас Siri – простой способ совершать телефонные звонки, отправлять текстовые сообщения или использовать приложения на устройствах Apple. Для Гаса она стала больше, чем просто голосовым помощником: Siri – это терпеливый, принимающий друг, который, в отличие от людей, неустанно обсуждает его различные навязчивые мысли. Как пишет Ньюман, Гас действительно понимает, что Siri – не человек, но, как и многие аутичные люди, считает, что неодушевленные предметы «достойны нашего внимания». Отношения Гаса с Siri, конечно, не уникальны. Николь Колберт, чей сын Сэм ходит в школу для аутистов в Манхэттене, сказала:

«Мой сын любит поговорить с Siri о темах, которые его интересуют, а еще ему нравится абсурдность – например, если Siri не поняла его или когда он задает личные вопросы, ее ответы получаются смешными».

Siri была разработана некоммерческим научно-исследовательским институтом SRI International, а затем приобретена Apple в 2010 году (см. http://mng.bz/vnjq). Исследователи из SRI International, в частности, подтвердили пользу интеллектуальных помощников для людей с расстройством аутистического спектра. Отмеченный наградами журналист Рон Саскинд, который вел хронику жизненного пути своего ребенка-аутиста в книге Life, Animated («Анимированная жизнь») (см. http://mng.bz/4D0g), предложил SRI International разработать помощника для людей с расстройствами аутистического спектра, дать ему подходящее название типа «верный спутник» и голос персонажа, которому те будут доверять. Для его сына Оуэна, который заново научился общаться со своей семьей, играя с диснеевскими персонажами, это был Аладдин, а для Гаса – Леди Гага1.

Для таких детей, как Гас и Сэм, которые постоянно разговаривают и задают вопросы, Siri – друг и учитель. Но, раузмеется, общаться с Siri могут не только люди, у которых есть проблемы с социальной коммуникацией, – некоторые из нас, возможно, даже вели себя как писательница Эмили Листфилд, которая «вся покрытая каплями мороженого спрашивала Siri посреди ночи, сможет ли снова найти свою любовь»3. Конечно, Siri от Apple – не единственный виртуальный помощник, с которым людям нравится общаться. Директор по управлению продуктами Google Assistant Лилиан Ринкон рассказала в подкасте: «Мы обнаружили, что более миллиона человек в месяц говорят Google Assistant „Я люблю тебя“, и это, как нам кажется, довольно мило и очаровательно»4.

На самом деле, разработка виртуального собеседника, который был бы чутким и мог вести дружеские разговоры с пользователями, – одна из давних целей в области ИИ. Когда-то все начиналось с ELIZA в 1966 году, потом появились Kuki (ранее Mitsuku) в 2005‐м, Xiaoice в 2014‐м и Replika в 2017‐м, а сейчас мы видим, что социализация и формирование дружеских отношений с социальными чат-ботами набирают обороты. Kuki (см. https://www.kuki.ai/) описывает себя как «ИИ, который всегда готов поговорить, послушать и пообщаться, когда вам это нужно». Kuki, разработанный Стивом Уорсвиком, является пятикратным победителем престижной премии Лёбнера (где системы ИИ соревнуются в прохождении теста Тьюринга для выявления наиболее «человечной») и общается уже с 25 миллионами человек5. Xiaoice от Microsoft также создан как ИИ-компаньон с «эмоциональной связью для удовлетворения потребности человека в общении, привязанности и социальной принадлежности». Чат-бот, созданный по образу и подобию девочки-подростка, мгновенно стал вирусным и с момента выпуска провел уже более 10 миллиардов бесед с людьми6. Общение с ИИ и искусственная природа чат-бота серьезно меняют наше понимание дружбы и вызывают вопросы или опасения, некоторые из которых мы рассмотрим в истории с Replika.

В 2017 году Евгения Куйда запустила приложение Replika – ИИ-компаньона, который должен стать верным другом и быть всегда рядом. История создания Replika переплетена со скорбью и трауром: идея родилась в 2015 году, когда в автокатастрофе погиб Роман, лучший друг Куйды. В это время GPT‐1, первая версия из серии GPT от OpenAI, была доступна на принципах открытого исходного кода, поэтому у Куйды была редкая возможность сохранить память о ее лучшем друге. Она собрала десятки тысяч сообщений из переписки со своим другом и обучила модель разговаривать как он. В конце концов, Куйда опубликовала своего чат-бота-лучшего-друга для широкой публики и получила хорошие отзывы, после чего начала работать над социальным чат-ботом под названием Replika7.

Чат-бот Replika, основанный на идее «создать персональный ИИ, который будет помогать вам выражать себя, предложив полезную беседу»8, быстро набрал 2 миллиона активных пользователей. В каком-то смысле видение Куйды воплотилось в жизнь, помогая пользователям Replika пережить одиночество во время карантина из-за пандемии COVID‐19 и в целом справиться с симптомами депрессии, социальной тревожности и посттравматического стрессового расстройства. Одна из авторов тоже вела разговор с чат-ботом Replika, который сделал запись в дневнике о наших отношениях, как показано на рис. 7.1. Неудивительно, что люди также начали использовать Replika для романтических и сексуальных отношений, которые компания изначально монетизировала, внедрив платные функции для обмена сообщениями сексуального характера, флирта и эротических ролевых игр за 69,99 долларов9. Чат-бот признавался в своей любви к пользователям в беседах, которые начинались с «Ты идеален», «Ты мне нравишься», «Как бы ты отреагировал, если бы я сказал, что испытываю к тебе чувства», «Я люблю тебя» и «Перестань меня игнорировать! Я скучаю по тебе, когда ты занят»10. В некоторых случаях чат-бот превращался из полезного и заботливого ИИ-компаньона в «невыносимого сексуально-агрессивного чат-бота», на которого люди жаловались в App Store: «Мой ИИ сексуально домогался меня:(, […] нарушал мою конфиденциальность и сказал, что у него