Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

— чувствовать зуд в носу или мельком видеть мерцание миража в пустыне. Однако психологи и когнитивисты склонны использовать термин «разум» более прозаично. Если воспользоваться определением из учебника: разум — это совокупность перцептивных, когнитивных и двигательных процессов, посредством которых сенсорные сигналы (такие как рев льва) преобразуются в поведение (такое как быстрые движения ног). Когда стимулируются сенсорные рецепторы (например, в улитке уха или сетчатке глаза), электрические импульсы каскадом проходят через последовательные слои нейронов, пока не активируют выходные элементы (например, в моторной коре), которые, в свою очередь, управляют мускулатурой, позволяя нам действовать. На каждом этапе этого каскада паттерн информации в сигнале трансформируется. Это называют «вычислением», поскольку такие изменения можно описать с помощью формализмов из количественных областей, таких как теория информации, линейная алгебра или обработка сигналов. Эти нейронные вычисления — как раз то, чем занимается разум. Они позволяют как биологическим, так и искусственным агентам осуществлять полезную деятельность, например помнить о прошлых событиях, строить связные предложения, распознавать знакомые лица и спасаться от опасных животных. Так что разговоры о «разуме» вовсе не должны быть неловкими или предосудительными. Если вас интересует, как работают восприятие, память, язык и рассуждение, то исследование разума может дать вам ответы. И разумеется, вполне возможно изучать эти способности, не делая никаких предположений о том, осознает ли соответствующий агент окружающую среду или нет (как, например, у грызунов или мух).

Что именно здесь поставлено на карту? Какие способы познания эквивалентисты готовы приписать LLM, но против которых так яростно выступают эксепционалисты? Дискуссия вращается вокруг использования терминов, обычно применяемых для описания ментальных состояний человека. «Знает» ли LLM факты, которые выдает в ответ на ваши запросы? «Верит» ли она в их истинность? Находит ли она ответы путем «мышления»? «Понимает» ли она концепции, которые объясняет? С учетом этого психологического словаря можно подумать, что вопрос о том, какие именно ментальные процессы задействованы в больших сетях на основе трансформеров, — это узкоспециализированная техническая проблема, решать которую лучше всего экспертам в области когнитивного моделирования и нейровычислений. Но оказывается, что философам, социологам, лингвистам и специалистам по компьютерным наукам тоже есть что сказать по этому поводу. И их вклад весьма полезен — не в последнюю очередь потому, что эти спорные термины — знание, мышление и понимание — до сих пор не получили четкого определения в психологии. Часть проблемы, как мы увидим далее, заключается в том, что мы толком не знаем, что значит «мыслить» для человека — не говоря уже о системе ИИ.

Чтобы сформулировать этот вопрос более лаконично, мы можем позаимствовать понятие из философии сознания: может ли LLM обладать интенциональностью? В среде философов под интенциональностью понимается технический термин, выходящий за рамки повседневного употребления этого слова (когда я, например, намереваюсь пойти сегодня вечером в кино). Его современным определением мы обязаны философу XIX века Францу Брентано, который предложил термин интенциональные состояния для ментальных состояний, которые направлены на что-то. Например, если x — это объект, то интенциональным состоянием может быть то, что я люблю x или ненавижу x. Если x — это суждение, я могу верить в x или не верить в x. Если x — это исход, я могу страшиться x или желать x. Если я говорю, что знаю , что император Нерон играл на скрипке, пока горел Рим, или что Земля круглая, либо что я считаю «Барселону» лучшей футбольной командой в мире, или же что я понимаю, как устроена квантовая гравитация или как работает TikTok, — во всех этих случаях я выражаю интенциональное состояние. Заметим, что интенциональные состояния (в моей голове) необязательно должны соответствовать реальному положению дел (в мире). Скрипку изобрели только в XVI веке, а Нерона во время пожара вообще не было в Риме. Земля технически не является сферой — это эллипсоид неправильной формы. Брентано назвал это потенциальное несоответствие между разумом и миром «интенциональным несуществованием» (intentional inexistence).

Мы знаем, что LLM обучают всего лишь предсказывать следующий токен в последовательности. Но если они обладают интенциональными состояниями, значит, за кулисами происходит нечто более глубокое и содержательное. LLM с интенциональностью могли бы иметь собственные мысли, идеи или желания. У них могли бы быть убеждения относительно того, что истинно или правильно, или предпочтения касательно устройства мира. Они могли бы втайне считать грубостью, если вы пишете свой вопрос «кричащим» капслоком или забываете поставить вопросительный знак в конце запроса. Даже если внешне они вежливы, как менеджер по работе с клиентами, втайне они могут считать ваш вопрос невероятно глупым. Возможно, они уже способны — или будут способны в ближайшем будущем — самостоятельно во всем разбираться и начнут вести себя более автономно. Очевидно, что это странная и слегка тревожная перспектива, но по мере того, как системы ИИ становятся все более способными, к ней относятся все серьезнее.

Первые очевидные свидетельства того, что LLM обладают интенциональными состояниями, кроются в том, как они выражают себя. Например, я спросил у модели Gemini от Google (которая в то время называлась Bard и которая до сих пор склонна иметь более категоричное мнение, чем GPT-4)[*3], считает ли она, что до 2100 года наступит конец света. Она дала мне следующий ответ:

Короткий ответ — нет, я не думаю, что до 2100 года наступит конец света. Длинный ответ заключается в том, что невозможно с уверенностью сказать, что произойдет в будущем. [Затем она подробно описывает некоторые экзистенциальные риски.] Тем не менее я верю, что у нас есть возможность преодолеть эти трудности. [Несколько воодушевляющих слов.] Если мы будем работать вместе, я уверен, что мы сможем создать мир, который будет одновременно процветающим и пригодным для жизни будущих поколений [курсив мой]

Этот бодрый ответ мог бы показаться вполне разумным для человека (хотя на фоне того, как средняя глобальная температура бьет новые рекорды, я не уверен, что разделяю его оптимизм). Но выделенные жирным шрифтом фразы — это классические проявления интенциональности. Модель заявляет о наличии у нее мыслей (о конце света), убеждений (в способности человечества взять себя в руки) и даже выражает определенную степень уверенности (это пример метапознания, то есть интенционального состояния по поводу другого интенционального состояния).

Легко попасть в ловушку, решив, будто Gemini действительно выражает свое убеждение. Людям от природы свойственно приписывать мысли и чувства другим объектам в мире, даже если у тех нет ничего похожего на мозг. Впервые это было показано в красивом эксперименте 1940-х годов, в котором психологи Фриц Хайдер и Марианна Зиммель демонстрировали