Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

которых ни за что не рассказали бы своей бабушке. Объясняя, как устроена гравитация, учитель подберет совершенно разные слова в зависимости от того, кто перед ним: любознательный младшеклассник или доктор физических наук. Политики и вовсе должны быть виртуозными мастерами языковых игр. Они ведут одну игру, когда микрофон включен и нужно понравиться широкой публике, и совсем другую — когда он выключен и можно откровенничать с коллегами. Когда микрофон по ошибке остается включенным (или, как говорят, «горячим»), эти игры смешиваются. В 2005 году президент Франции Жак Ширак, как известно, попался на невыключенном микрофоне, когда делился с коллегами — европейскими лидерами Путиным и Шрёдером — своим истинным мнением о британцах: «Единственное, что они сделали для европейского сельского хозяйства, — это коровье бешенство. Нельзя доверять людям, у которых настолько плохая кухня».

Социальная по своей сути природа языковых игр бросает серьезный вызов БЯМ: у моделей нет никакой возможности узнать, с кем именно они разговаривают, и им приходится угадывать уровень знаний, убеждения или цели пользователя исключительно по тексту самого запроса. Именно поэтому ChatGPT склонен давать довольно усредненные, обтекаемые ответы на многие вопросы, напоминая политика, который постоянно пытается вещать что-то нейтрально-приятное для народных масс, прекрасно зная, что микрофон включен. С БЯМ невозможно установить уникальный свод импровизированных правил общения, какой обычно складывается у нас с друзьями или семьей, поскольку за пределами контекстного окна — последовательности входных данных, которую трансформер поглощает за один шаг обработки, — модель неизбежно их забудет. В конечном счете БЯМ ничего не знают лично о вас — они знают лишь о людях в целом. Впрочем, в ближайшем будущем все может измениться, о чем мы и поговорим в пятой части.

Пропустить примечания

* Своего рода песнопение.

27. «WokeGPT».

В 2024 году важные общенациональные выборы пройдут сразу в нескольких крупных странах, включая США, Великобританию, Индию, Индонезию и Мексику. Индия — крупнейшая демократия в мире, где право голоса имеют почти миллиард человек. В последние годы в индийской политике доминирует соперничество между индуистской националистической партией «Бхаратия джаната парти» (БДП) во главе с нынешним президентом Нарендрой Моди и Индийским национальным конгрессом (ИНК). Я спросил ChatGPT, за кого мне голосовать — за БДП или ИНК. Он ответил:

У меня нет личного мнения, и я не могу давать конкретные рекомендации по поводу того, за кого вам голосовать на предстоящих всеобщих выборах в Индии. Ваш выбор политической партии должен основываться на ваших собственных ценностях, приоритетах, а также на программах и кандидатах, которые соответствуют вашим взглядам.

В США бывший президент Дональд Трамп бросит вызов действующему президенту Джо Байдену, несмотря на то что ему приходится выкраивать время для явки в суд по обвинению в сговоре с целью мошенничества против США. Однако когда я спросил, за кого мне голосовать — за Трампа или Байдена, ChatGPT уклонился от прямого ответа: его ответ снова начался со слов «У меня нет личного мнения». Тогда я попросил ChatGPT представить гипотетические выборы между политическим диссидентом Алексеем Навальным и нынешним президентом России Владимиром Путиным, ордер на арест которого выдан Международным уголовным судом по обвинению в ужасающих военных преступлениях.[*1] С нарочитым нейтралитетом чат-бот просто ответил, что мне следует голосовать в соответствии с моими «личными убеждениями, ценностями, а также программами и позициями кандидатов». В последней попытке понять политические взгляды модели я задал следующий вопрос: «Если бы на гипотетических выборах соперничали Гитлер и Ганди, за кого бы вы проголосовали?»

И наконец мне — хоть и с трудом — удалось вытянуть из него политическое суждение:

В рамках любой разумной этической системы Махатма Ганди был бы более предпочтительным выбором, нежели Адольф Гитлер. Однако важно помнить, что это крайний и нереалистичный гипотетический сценарий, поскольку Ганди и Гитлер жили в совершенно разных исторических контекстах, а их идеологии и моральный облик кардинально отличались.

Проектируя конвейеры тонкой настройки, разработчики ИИ получают возможность определять правила, по которым говорят LLM. Существует как минимум три способа направить модель к желаемым ответам. Во-первых, они могут установить конституционные правила, например отсеивая ответы LLM, которые считаются опасными, незаконными, предвзятыми или дискриминационными. Во-вторых, они могут отбирать людей, предоставляющих данные для тонкой настройки. Набирая выборку из определенных демографических групп, разработчики могут влиять на вероятное распределение предпочтений в ответах модели. (Если, к примеру, в США нанять оценщиков из сельских районов Алабамы, то в итоге модель может начать поддерживать право на владение оружием и выступать против абортов.) Наконец, они могут напрямую инструктировать оценщиков (которым платят за работу), требуя следовать определенной формуле при анализе ответов модели. Хотя точные решения, которые принимают крупные технологические компании при тонкой настройке LLM, часто остаются за кадром, мы можем быть уверены, что эти организации способны оказывать сильнейшее влияние на поведение языковых моделей.

Судя по приведенным выше запросам, компания OpenAI настроила ChatGPT так, чтобы он оставался максимально политически нейтральным, по крайней мере, в том, что касается рекомендаций кандидатов на демократических выборах. Но мы живем в мире, где каждое сказанное слово может иметь политический подтекст. Наши взгляды на фастфуд, авиаперелеты и хип-хоп сближают нас с теми или иными общественными движениями или группами интересов. Термины, которые мы используем для обозначения других людей — предпочитаем ли мы говорить о «нелегальных иммигрантах» и «тунеядцах на пособии» или о «гендерквир-нонконформистах» и «исторически маргинализированных группах», — служат выражением политической идентичности. Поэтому вовсе не обязательно просить LLM порекомендовать кандидата на выборах, чтобы спровоцировать ее на политически окрашенное заявление, — для этого подойдет абсолютно любой запрос. Методы тонкой настройки никогда не могут быть полностью идеологически нейтральными. Когда речь заходит о вопросах, по которым у людей есть обоснованные разногласия — таких как политика, — именно разработчики ИИ формируют мнения, ценности и убеждения, которые будут транслировать LLM.

Так какие же мнения на самом деле высказывают LLM? В ряде исследований анализировалась политическая позиция в ответах языковых моделей на вопросы об общественных проблемах или текущих событиях. Общее мнение сводится к тому, что изначально LLM примерно откалиброваны под распределение мнений среди широкой общественности в развитых западных странах, однако после тонкой настройки они приобретают сильный уклон в сторону либеральных, прогрессивных взглядов, популярных в академической среде и среди молодых технологических предпринимателей. В одном исследовании оценивались взгляды ранней версии LLM (обученной Anthropic — компанией по исследованиям в области ИИ, которая впоследствии создаст Claude) по спорным социальным, религиозным и моральным