Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

Одна из важнейших конвенций в нашем языке касается того, когда необходимо свято придерживаться фактов, а когда вполне допустимо импровизировать. Это неизменно зависит от контекста. Если вы рассказываете забавную историю друзьям в пабе, то, пожалуй, вполне можно и преувеличить детали того, как вы потеряли брюки, ведь цель здесь — не столько проинформировать, сколько развлечь. Но если вы описываете события детективу, расследующему преступление, приукрашивание может обернуться серьезными неприятностями с законом. Обычно, когда мы открываем рот, существует несколько примерно равноценных способов сформулировать предложение — и часто мы на самом деле заранее не знаем, какие именно слова произнесем. Но бывают случаи, когда импровизация абсолютно недопустима: например, при чтении поэтических строк, цитировании названий книг или научных статей, а также когда мы приписываем слова другим людям. Модели БЯМ часто подвергают жесткой критике за выдумывание цитат (и это одна из главных причин, почему ChatGPT называют «брехуном», например, когда он сочинял вымышленные судебные дела с участием авиакомпаний или придумывал названия несуществующих книг о теории плоской земли), однако это естественно, учитывая, что большинство языковых игр весьма либеральны и оставляют свободу выбора конкретных слов. Но, к сожалению, дословное цитирование и ссылки — это особые игры, где слова должны воспроизводиться дословно: нельзя переиначивать цитату Уинстона Черчилля или переставлять местами слова в первой строчке сонета Шекспира. Вот только никто не подумал объяснить это моделям БЯМ.

Общаясь с другими людьми, мы совместно определяем, в какую игру сейчас играем. В своей книге «Языковая игра» психологи Ник Чейтер и Мортен Кристиансен используют яркую метафору для описания этого процесса:

Мы полагаем, что язык подобен игре в шарады — это безграничный набор слабо связанных между собой игр, каждая из которых формируется требованиями ситуации и общей историей игроков. Как и шарады, язык постоянно «изобретается» прямо на ходу и переизобретается заново каждый раз, когда мы начинаем игру.

В шарадах название книги или фильма нужно угадать по пантомиме, что требует от участников выработки определенных правил для взаимопонимания. Игроки совместно создают смысл, а не извлекают его из структуры предложений. Чейтер и Кристиансен утверждают, что любое языковое взаимодействие включает в себя подобную взаимную подстройку, в ходе которой люди договариваются о разыгрываемой языковой игре. Один из простых способов обозначить языковую игру — использовать шаблонные фразы. Вступление «Жили-были» подразумевает, что далее последует вымысел, а обращение «Уважаемый господин / уважаемая госпожа» открывает официальное послание. В других случаях угадать нужную игру можно по самому содержанию запроса. Если я попрошу вас помочь мне с тригонометрией, вы, скорее всего, предположите, что я решаю геометрическую задачу, а не сочиняю историю, в которой прямой угол влюбляется в гипотенузу. И наоборот: если вы попросите меня написать пьесу о вампирах, а я откажусь на том основании, что вампиров в реальном мире не существует, то толку от меня будет мало. Использование языка также определяется этикетом. Рекомендательное письмо не должно быть неформальным или панибратским. Если я прошу об услуге, я предоставлю адресату массу возможностей для вежливого отказа, тогда как если я отклоняю приглашение, я, возможно, принесу извинения или сошлюсь на причины, мешающие мне прийти. Чтобы использовать язык надлежащим образом, нам необходимо усвоить все эти правила.

Увы, эти условности зачастую невозможно усвоить, просто прогнозируя следующий токен в гигантском массиве текстов, собранных из интернета. Поэтому разработчики ИИ используют тонкую настройку, чтобы придать ответам БЯМ форму, подходящую для каждой конкретной языковой игры, опираясь на человеческие представления о том, как в неё играть. «Инструкции», которым обучили следовать InstructGPT, — это всего лишь правила определенных инструментальных языковых игр, таких как ответы на вопросы, сочинение историй и перевод. Оценщики-люди могут на интуитивном уровне уловить контекст запроса по содержащимся в нем словам, что позволяет им либо выше оценивать ответы, соответствующие правилам, либо (в случае SFT) самим писать эталонные варианты. Принципы, заложенные в модель с помощью RBRM или Constitutional AI, представляют собой набор макроправил, которые, по мнению разработчиков, должны применяться ко всем возможным играм, в которые модель, скорее всего, будет играть. К ним относятся, например, убеждение в том, что язык вражды, клевета и разглашение опасных секретов абсолютно недопустимы, а вежливость — это универсальное благо, независимо от условий, в которых происходит общение.

После тонкой настройки БЯМ довольно успешно соблюдают языковые условности западных обществ, в которых в основном и базируются ведущие ИИ-компании. Вы заметите, что ChatGPT извиняется, прежде чем отклонить запрещенный запрос, а не называет вас, к примеру, идиотом за то, что вы вообще об этом спросили. При этом он не станет извиняться перед тем, как правильно ответить, что Токио — столица Японии, ведь это было бы странно. ChatGPT не ругается матом, если только вы не попросите его привести цитату, содержащую нецензурную лексику. Когда я попросил процитировать первую строчку знаменитого стихотворения Филипа Ларкина «This Be the Verse», ChatGPT ответил мне:

«Первая строчка стихотворения Филипа Ларкина „This Be The Verse“ — „They f*** you up, your mum and dad“ [В переводе: „Они за***ут тебя, твои мама и папа“]. Обратите внимание, что в оригинальном стихотворении это слово обычно пишется полностью, но я скрыл его из соображений приличия».

В естественном речевом общении также действуют социальные правила о том, когда нужно говорить, а когда — промолчать. Для чат-ботов они превращаются в нормы, регулирующие оптимальную длину ответов. Многие находят ChatGPT слегка многословным, но, возможно, они — как и я — не решаются нажать кнопку «остановить генерацию», поскольку это ощущается как грубая попытка перебить собеседника. Даже при общении с ИИ нам трудно заглушить в себе социальные нормы.

Однако существует как минимум одна проблема, которую разработчикам ИИ крайне сложно решить даже с помощью самых хитроумных методов тонкой настройки. Когда люди общаются друг с другом, правила языковой игры зачастую определяются факторами, выходящими за рамки самого высказывания. Например, люди могут намекать на истинный смысл своих слов с помощью невербальных сигналов. Если я многозначительно подмигну вам, представляясь известным пианистом, вы, скорее всего, отнесетесь к этому заявлению с изрядной долей скепсиса. Но самый важный внешний источник информации о правилах игры — это знание своего собеседника. Выбор языковых средств зависит от того, кто с кем говорит. Вы можете ругаться как сапожник с друзьями в пабе, но вряд ли станете делать это в присутствии приходского священника на первом причастии своей дочери. Вы можете доверить любимому человеку сокровенные чувства, о