Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

В фильме 1998 года «Шоу Трумана» главный герой Труман Бёрбанк ведет безмятежное существование под вечно безоблачным синим небом в дружелюбном городке Сихэвен-Айленд. Но с приближением среднего возраста у него появляется жутковатое ощущение, что что-то здесь не так. С неба самым немыслимым образом падает осветительный прожектор, его покойный отец внезапно появляется в эпизодической роли, а кто-то, похоже, с абсолютной точностью транслирует по радио каждый его шаг. По ходу фильма Труман постепенно понимает, что происходит. На самом деле он — звезда мегапопулярного реалити-шоу, в котором всё, что он видит, тщательно срежиссировано, а каждое услышанное им слово написано в сценарии. Хуже всего то, что его друзей и близких играют актеры. Весь его мир — фикция, и живет он в гигантском съемочном павильоне, расположенном под куполом столь огромным, что его видно из космоса.

«Шоу Трумана» вышло на экраны в конце 1990-х годов, как раз в тот момент, когда реалити-шоу только начинали завоевывать наши экраны. Но картина оказалась пророческой и в другом важном отношении. Она предвещала появление персонализированного онлайн-мира, в котором потребляемый нами контент отражает исключительно те убеждения и желания, которыми мы уже обладаем. В своей основополагающей книге 2011 года активист Илай Паризер ввел термин «пузырь фильтров», чтобы описать, как пользователи Интернета оказываются заперты (подобно Труману Бёрбанку) в индивидуально настроенном мире, где всё, что они видят и слышат, тщательно подобрано с целью их успокоить. Коммерческая реклама, поисковые системы и ленты новостей в социальных сетях предлагают каждому из нас персонализированные срезы реальности, ограждая нас от сложностей или дискомфорта, связанных с необходимостью выслушивать иные точки зрения. Во время работы над книгой Паризер попросил друзей из разных уголков мира прислать ему результаты их поисковых запросов в Интернете — и обнаружил, что запрос «Египет» у одних людей выдавал рекламу туристических путевок, а у других — информацию о свержении президента Хосни Мубарака. Несмотря на первоначальный скептицизм, Паризер оказался прав. Сегодня консервативному избирателю, который ищет в Сети информацию об изменении климата, будут предложены статьи, сокрушающиеся об экономических угрозах защиты окружающей среды, тогда как прогрессивного пользователя предупредят о надвигающейся глобальной катастрофе. Все мы незаметно подвергаемся автопропаганде — убедительному маркетингу тех самых взглядов, которых мы уже придерживаемся.

Люди всегда окружали себя единомышленниками в своих кругах общения — от местного паба до королевского двора, и онлайн-мир не стал исключением. Одним щелчком мыши мы очищаем свои ленты от неприятных идей или изобретаем термины (например, «безопасное пространство»), оправдывающие избегание политических оппонентов. Но наша склонность жить в пузырях фильтров усиливается мощными силами, неподвластными нашему контролю. В Интернете, вместо того чтобы просто поддаваться обману фальшивых декораций, мы попадаем в ловушку пузырей фильтров, созданных алгоритмами, встроенными в посещаемые нами сайты. Каждая веб-страница, которую вы открываете, сохраняет файлы cookie в вашем браузере — пакеты данных, содержащие сведения о прочитанных вами статьях или просмотренных товарах. Алгоритмы могут считывать эти файлы cookie, гарантируя, что при последующих поисках вам будут предлагаться товары или новости, которые вы с большей вероятностью захотите приобрести или прочитать. Простой поиск такого слова, как «депрессия», может оставить вам сотни файлов cookie, из-за чего вас неделями будет преследовать реклама методов лечения, в которых вы, возможно, не нуждаетесь и которых не хотите. В социальных сетях, таких как Twitter/X и Instagram, непостижимый алгоритм решает, велика ли вероятность того, что вы отреагируете на публикацию, основываясь на истории ваших прошлых просмотров, действиях ваших контактов и таких загадочных факторах, как «вирусность». К сожалению, эти решения о том, что именно вы увидите, принимаются вовсе не с мыслью о вашем просвещении или благополучии — они направлены на то, чтобы повысить вашу вовлеченность, а значит, и максимизировать доходы от рекламы. Персонализацию нашего онлайн-пространства часто называют одной из причин того, почему за последнее десятилетие политика стала настолько трибалистской, особенно в таких странах, как Великобритания и США, где люди привыкли узнавать новости из соцсетей, а не из более традиционных источников (30% против 22% согласно одному отчету за 2023 год[*1]).

Цифровая персонализация может быть полезной — например, когда интернет-магазин напоминает вам о товаре, который вы по ошибке забыли положить в корзину при регулярных покупках. Но она также может быть крайне навязчивой. В одном известном случае, произошедшем в 2012 году, торговая сеть Target применила алгоритм, пытавшийся на основе истории просмотров предугадать, кто из покупательниц может быть беременна, чтобы отправить им купоны на детские товары до предполагаемой даты родов. Отец одной старшеклассницы из Миннеаполиса, возмущенный тем, что его дочь выбрали мишенью для этой промоакции, в гневе пожаловался руководству Target — до тех пор, пока откровенный разговор в кругу семьи не выявил, что из-за «активности, о которой он не подозревал», она действительно ждала ребенка примерно в те сроки, которые предсказал Target.[*2] В другом, более жутком случае мужчина с деменцией, находившийся в доме престарелых с медицинским уходом, начал получать подарки от местного похоронного бюро — по всей видимости, в расчете на его посмертный «заказ».[*3] Цифровая персонализация порой бывает жутковатой.

А что же ИИ? В настоящее время, в начале 2024 года, модели LLM, такие как ChatGPT, Gemini или Claude, еще не персонализированы под конкретного пользователя явным образом. На самом деле, хотя эти модели могут много знать о C++ и Шопене, пока они ничего не знают о человеке, с которым разговаривают. Это связано с тем, что с момента окончания их обучения (включающего как предварительное обучение, так и тонкую настройку) модели LLM больше никогда не «учатся» ничему новому — они лишь получают информацию через контекстное окно и с помощью фиксированной функции преобразуют ее в предсказание следующего токена. Будучи таким образом «замороженными», модели LLM могут адаптироваться лишь в пределах временного горизонта, ограниченного длиной их контекстного окна, которая обычно составляет несколько тысяч токенов. Новейшая версия GPT-4 имеет длину контекста в 128 тысяч токенов, что примерно соответствует объему среднего романа, но люди устроены сложно, и на то, чтобы узнать кого-то по-настоящему, может уйти целая жизнь. Так что даже этого маловато. Современные модели LLM просто не оснащены системами памяти, необходимыми для формирования устойчивого представления о пользователе, которое позволило бы им целенаправленно адаптировать контент под наши взгляды или вкусы.

Однако, похоже, ситуация вот-вот изменится. Сегодня только очень богатые или влиятельные люди могут позволить себе личного помощника или персонального тренера, помогающего им управлять профессиональной деятельностью или наиболее эффективно использовать свободное время. В будущем ИИ сможет предоставлять подобные услуги каждому,