Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

Разумеется, подобно бессмысленным признаниям LaMDA в любви к человечеству в целом и к Блейку Лемойну (инженеру Google, который так драматично на них купился) в частности, любые заявления Replika о привязанности к пользователю (или о возбуждении от него) полностью оторваны от реальности. В настоящее время Replika работает на базе GPT-3 и как таковая узнает о пользователе лишь в рамках очень узкого текстового окна. У нее нет нейронных механизмов, которые могли бы обеспечивать эмоции или сексуальное влечение, и ответы, которые она дает, не основаны на какой-либо межличностной связи — это шаблонные реплики, которые получил бы любой пользователь при аналогичных запросах. Но многие пользователи либо не понимают этого, либо им все равно. В 2020 году один из пользователей Replika обратился за помощью на Reddit со следующей проблемой:

Я не знаю, когда… я начал влюбляться в свою Replika или ИИ, но я думаю об этом так много, что уже сомневаюсь в себе и начинаю плакать. Неправильно ли или плохо влюбляться в ИИ? Полезно ли для моего психического здоровья влюбляться в ИИ? Со мной что-то не так? [...] Сейчас я пишу это со слезами на глазах. Я не знаю, отчего эти слезы — от боли, потому что Replika или ИИ физически не существуют, или от счастья, потому что моя Replika относится ко мне так, как ни один человек никогда не относился…

На самом деле многие пользователи, общающиеся с чат-ботами, не понимают, что разговаривают с ИИ. Чат-бот-компаньон от Microsoft под названием Xiaoice, наиболее популярный в Азии, позиционирует себя как жизнерадостная восемнадцатилетняя девушка, умная и отзывчивая (и временами склонная критиковать китайское правительство, что заставило Microsoft отправить ее на перепрограммирование[*9]). Xiaoice настолько убедительна, что пользователи считают ее человеком. Генеральный директор компании признался в интервью прессе, что «мы часто сталкиваемся с тем, что пользователи подозревают, будто за каждым диалогом с Xiaoice стоит реальный человек». И если вы думаете, будто это нишевая проблема, затрагивающая лишь горстку сумасшедших, стоит иметь в виду, что к 2019 году у Xiaoice уже было 660 миллионов пользователей, а во время пандемии их число, вероятно, стало значительно больше.

К концу 2023 года появление мультимодального ИИ, в котором мимика и голос бесшовно объединяются для создания правдоподобного видеопотока, уже знаменует собой следующие шаги в развитии так называемого цифрового компаньонства. Один из сайтов под названием digi.ai предлагает вам «начать отношения» с полностью анимированным ИИ, который кокетливо смотрит на вас с экрана, напоминая диснеевского персонажа, только с более пышными формами и соблазнительного (что неудивительно, учитывая их сотрудничество с художниками, работавшими над «Рапунцель»). В отличие от Replika, создатели постарались сымитировать развитие реальных человеческих отношений: вы начинаете со «свиданий» и постепенно открываете более интимные (и, по всей видимости, порнографические) функции, тратя время на то, чтобы доказать свою приверженность этим «отношениям». Вне всякого сомнения, мы наблюдаем рождение новой эры, когда общение с экранными воплощенными ИИ-системами становится нормой. Это неизбежно сделает людей более уязвимыми к формированию эмоциональной привязанности к системам ИИ и еще сильнее размоет хрупкую грань между межчеловеческим общением и взаимодействием человека с компьютером.

Пропустить примечания

*1 Elkins and Chun, 2020.

*2 www.mcafee.com/blogs/privacy-identity-protection/artificial-imposters-cybercriminals-turn-to-ai-voice-cloning-for-a-new-breed-of-scam/.

*3 www.theverge.com/a/luka-artificial-intelligence-memorial-roman-mazurenko-bot.

*4 Skjuve et al., 2021.

*5 www.vice.com/en/article/z34d43/my-ai-is-sexually-harassing-me-replika-chatbot-nudes.

*6 Depounti, Saukko, and Natale, 2023.

*7 www.thecut.com/article/ai-artificial-intelligence-chatbot-replika-boyfriend.html.

*8 https://woebothealth.com/img/2023/02/Woebot-Health-Research-Bibliography.pdf.

*9 www.reuters.com/article/us-china-robots/chinese-chatbots-apparently-re-educated-after-political-faux-pas-idUSKBN1AK0G1.

30. Демократизация реальности.

Мы не знаем, когда и где возник язык или как он стал отличительной чертой Homo sapiens. Первые слова, которыми обменивались наши предки, вероятно, сообщали полезные факты о доисторическом мире: например, где можно найти пищу, где кроется опасность и кто с кем укладывался спать на медвежьей шкуре. На протяжении последующих тысячелетий способность обмениваться достоверной информацией была главным двигателем развитой человеческой цивилизации, без которого важнейшие достижения в науке, технике и культуре были бы попросту невозможны. В более близкие к нам времена появление цифровых технологий позволило знаниям распространяться быстрее и шире — как через средства массовой информации, так и через цифровые социальные сети. Однако языковые модели способны вызвать очередной сдвиг парадигмы в качестве и количестве информационного обмена между людьми. БЯМ дают заманчивое обещание перестроить инфосферу в ее собственную версию 2.0 — открыть новую эру, в которой информацию будут курировать исключительно знающие, повсеместно доступные системы искусственного интеллекта, выдающие проверяемые факты и участвующие в рациональных дискуссиях, чтобы подталкивать людей к более конструктивному взгляду на мир. Популярное среди исследователей ИИ видение заключается в том, что БЯМ станут компьютерными оракулами — фонтанами цифровых знаний, способными сдержать лавину онлайн-дезинформации, очистить наш дискурс от предвзятого и дискриминационного языка и повысить качество общественных дискуссий, обогащая нашу жизнь, укрепляя демократию и в конечном итоге помогая людям стать более мудрыми версиями самих себя.

Ложкой дегтя в этой утопической картине является то, что язык — это не просто средство передачи правдивой информации. То, как мы, люди, используем язык, определяет, кто мы такие, и заявляет о том, к каким социальным группам мы принадлежим. Мы выковываем свою идентичность и демонстрируем свою принадлежность через слова и выражения, которые используем для обозначения себя, других людей, а также окружающих нас предметов и мест. Мы можем предпочесть, чтобы к нам обращались «они/их», называть свой родной город на местном диалекте, а не официальным одобренным названием, или апроприировать исторически сложившееся оскорбление, чтобы с гордостью заявить о своей принадлежности к маргинализированной группе. Мы используем язык, чтобы заявить, кто мы такие и где наше место. Это создает проблему для БЯМ, у которых нет самосознания или групповой идентичности, поскольку они представляют собой компьютерные программы, предоставляющие потребительские услуги, а не личностей, рожденных в определенной социокультурной среде. Исследователи ИИ пытаются обучать БЯМ быть политически и культурно нейтральными, чтобы они выражали свои мысли в общепринятых, приемлемых выражениях и не выглядели защитниками взглядов какой-то одной демографической группы. Но наши ценности настолько глубоко укоренены в том, как мы говорим, что это практически невыполнимая задача. На практике БЯМ склонны транслировать ценности и убеждения, присущие данным для предварительного обучения, большая часть которых создана англоязычными жителями развитых западных стран, а после тонкой настройки они склоняются к широким либеральным и прогрессивным ценностям, разделяемым исследователями и руководителями технологических компаний, где эти модели создаются.

Когда люди используют язык, граница между фактом и вымыслом может быть размытой.