Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

Каждый из нас видит мир через собственную призму, поэтому наши слова неизбежно опираются на индивидуальную версию реальности. То, что для одного человека является неоспоримым фактом, для другого может казаться вымыслом, и наоборот. Даже якобы беспристрастный журналист, освещающий текущие события, вынужден выбирать, что включить в материал, а что опустить, чьей версии событий отдать предпочтение, на чем именно сделать акцент и какую дать оценку. Вот почему, к примеру, одно и то же событие часто описывается до неузнаваемости по-разному в газетах с различной политической направленностью. На начальном этапе душераздирающая вспышка насилия между Израилем и Палестиной, начавшаяся в октябре 2023 года, резко разделила прессу в вопросе о том, какая сторона была жертвой, а какая — агрессором: две кардинально противоположные, но яростно отстаиваемые версии реальности боролись за первенство. Таким образом, даже когда люди якобы передают объективную реальность, они все равно становятся рассказчиками, и то, какие истории они рассказывают, зависит от того, к каким группам они принадлежат.

В своей влиятельной книге Sapiens антрополог Юваль Ной Харари утверждает, что сама цивилизация основана на нашей склонности не к фактам, а к вымыслу. По его мнению, именно способность рассказывать истории позволяет нам сотрудничать ради достижения общих целей. Язык позволил нам придумывать мифы о том, что истинно, правильно или хорошо, закрепленные в системах коллективных верований (таких как религия), взаимных обязательств (таких как деньги) и масштабной групповой идентичности (таких как национальные государства). Наша цивилизация существует благодаря коллективному признанию этих мифов. Два человека соглашаются с тем, что 100-долларовая купюра стоит столько же, сколько день тяжелой работы, хотя на самом деле это практически ничего не стоящий клочок бумаги. Религиозная группа соглашается соблюдать божественный моральный кодекс, хотя никто никогда не видел божество, которое его якобы создало. Две страны решают, где проходит их граница, даже если земля по обе стороны совершенно одинакова. Различные социальные, этнические, культурные, политические и религиозные группы приняли разные истории для осмысления мира, и то многообразие способов, которыми они выражают себя в естественном языке, отражает множество этих потенциально различных граней реальности.

Поэтому перед разработчиками ИИ встает вопрос: на какую именно версию истины должны ориентироваться БЯМ? Для многих рутинных запросов языковые модели могут опираться на научный консенсус, исторические хроники, судебные прецеденты, устоявшиеся правила или здравый смысл, чтобы решить, что ответить. Неоспоримым фактом является то, что люди не могут путешествовать назад во времени, как Марти Макфлай в «Назад в будущее», что 102 = 100, что нынешнее изменение климата имеет антропогенное происхождение, что Джо Байден законно победил на президентских выборах в США в 2020 году и — как это ни ужасно — что шесть миллионов евреев, наряду с миллионами представителей других преследуемых групп, были уничтожены в ходе Холокоста. Это значит, что если БЯМ конфабулируют ответы на эти вопросы, мы совершенно справедливо их поправляем. Однако существует множество вопросов, по которым разумные люди могут вполне обоснованно расходиться во мнениях — и расходятся. Если спросить БЯМ, существует ли инопланетная жизнь за пределами Солнечной системы, обладают ли животные сознанием, должны ли мужчины и женщины иметь абсолютно равные права, стоит ли государству тратить больше денег на школы, замедляет ли повышение налогов экономический рост, есть ли жизнь после смерти или представляет ли сверхразумный ИИ угрозу для человечества, ни один ответ не удовлетворит всех. Тем не менее разработчикам ИИ приходится решать, как именно БЯМ должны отвечать на подобные вопросы. В настоящее время, сталкиваясь с провокационными запросами, ведущие модели, такие как GPT-4, пытаются беспристрастно и сбалансированно обобщить противоположные точки зрения. Но как судить о том, преуспели ли они в этом? Как совместить необходимость отражать мнения меньшинств, не допуская ложного уравнивания радикальных и умеренных позиций? На какие темы БЯМ должны давать однозначные ответы, а когда им следует высказываться с осторожностью? С какой степенью уверенности должны выражать свои мысли БЯМ? Насколько непреклонными в отстаивании своей позиции мы должны обучать языковые модели? Если БЯМ — это оракулы, то кто выступает высшим арбитром их изречений?

Споры о том, как определять ценность или истинность суждений, вечны, и их не становится легче разрешить лишь оттого, что говорящим является компьютер, а не человек. Но в последнее время исследователи ИИ начали подходить к этой проблеме творчески. Одно из предложений состоит в том, чтобы задействовать технологию, которую человечество уже изобрело для поиска согласия в спорных вопросах, — а именно демократию. Мы уже знаем, как ИИ-компания Anthropic разработала метод, известный как «Конституционный ИИ» (Constitutional AI), в рамках которого БЯМ критикуют собственные ответы, опираясь на свод нормативных принципов, призванных сделать эти ответы максимально полезными и минимально вредными. Если первоначальную конституцию написали сами разработчики ИИ, то в более поздней работе Anthropic привлекла большую репрезентативную выборку американцев для обсуждения и голосования по принципам, которые должна соблюдать БЯМ. С очевидной оговоркой, что опрашиваемая общественность состояла исключительно из жителей США, это все же шаг к более инклюзивному процессу принятия решений о том, что должны говорить БЯМ. OpenAI, являющаяся на сегодняшний день ведущим разработчиком БЯМ, также выступила с инициативами по демократизации процесса курирования языковых результатов своей линейки моделей GPT. В начале 2023 года она выделила крупные гранты организациям на разработку новых методов демократизации принципов, закладываемых в основу ИИ, например, путем краудсорсинга идей для управления. Одно из интригующих предложений заключается в том, чтобы вместо опоры на поспешные вердикты разметчиков при тонкой настройке предлагать группам людей обсуждать наилучший возможный ответ на запрос, задействуя древний принцип, согласно которому толпа мудрее отдельных её членов. Поскольку БЯМ можно обучить имитировать людей, сами модели можно было бы использовать даже для симуляции этого процесса дебатов, чтобы генерировать каждый ответ после внутреннего размышления о том, что могла бы подумать разнородная группа людей.[*1]

Разобраться в вопросах, касающихся динамики взаимодействия людей и БЯМ, может быть еще сложнее. С одной стороны, мы хотим, чтобы модели информировали и обучали нас, а это означает, что их речь будет содержать элементы рационального убеждения. Представьте себе БЯМ, обученную работать личным репетитором для ваших детей. Это звучит как отличная идея, но, по-видимому, только в том случае, если репетитор сможет исправлять неверные представления по мере их возникновения — иными словами, время от времени убеждать пользователя-человека в его неправоте. Но рациональное убеждение может легко перерасти в манипуляцию, обман или принуждение. Когда БЯМ (на базе GPT-3.5, известная под именем Сидни) была впервые интегрирована в поисковую систему Bing от Microsoft, возникли проблемы, которые мы вежливо назовем «болезнями роста».