Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

естественном языке выдают информацию о том, как устроен мир, — а ведь именно для этого, в конце концов, язык и предназначен. Внушительные объемы компьютерного кода, усвоенные моделями во время обучения, возможно, помогают сделать их рассуждения более систематическими, поскольку синтаксис кода напрямую реализует логические операции вроде условных операторов «если — то».[*3]

Таким образом, обработка естественного языка — это просто более масштабная и хаотичная версия задачи с ориентирами. Пространство возможных высказываний астрономически велико, но информация, которую несут в себе предложения, связана — невероятно сложным, но в конечном счете закономерным образом — с тем, что логично или истинно в мире. Таким образом, язык обретает смысл не только потому, что он указывает на внешние физические объекты, которые можно взять в руки, но и потому, что его собственная внутренняя структура отражает структуру внешнего мира. LLM способны «мыслить» и «рассуждать», потому что титанические вычислительные мощности позволяют им кодировать эту структуру в своих весах с помощью серии ментальных программ, реализующих операции, которые лежат в основе таких формальных способностей, как алгебра и логика предикатов, а также гораздо более неформальных связей, составляющих повседневное общение. Эти ментальные программы закодированы в (миллиардах) весов сети, точно так же как ваши знания о том, как устроен мир, закодированы в (триллионах) синапсов вашего мозга. Именно по этой удивительной причине глубокие нейронные сети, чьи связи безнадежно лишены структуры и запутаны, словно гигантский клубок ниток, тем не менее способны выполнять вычисления, строго структурированные по тем логическим и рациональным принципам, с помощью которых мы, люди, осмысляем мир.

Пропустить примечания

*1 Хотя см. обсуждение использования инструментов в части 5.

*2 Phuong and Hutter, 2022.

*3 Madaan et al., 2022.

22. Национальная библиотека Таиланда.

Рассказ Джеймса Тербера, впервые опубликованный в New Yorker в 1939 году, повествует об Уолтере Митти, мужчине средних лет, чья серая пригородная жизнь прерывается лишь поездками в город за бумажными платками Kleenex и лезвиями для бритья, а также энергичными нагоняями от многострадальной жены. Митти спасается от своего унылого существования, погружаясь в причудливые грезы. В своих фантазиях он предстает отважным героем воздушного боя, экстренной операции на сердце или яростной судебной драмы. Тербер бесшовно переплетает фантазии Митти, написанные по сценарию голливудских фильмов категории B («— Кто-то должен уничтожить этот склад боеприпасов, — сказал Митти. — Я вылетаю. Немного бренди?»), с банальными сценами из его повседневной жизни («— Не забудь купить калоши, пока я буду причесываться, — сказала она. — Мне не нужны калоши, — сказал Митти»), предоставляя читателю самому отделять одно от другого. Для этого нам приходится расшифровывать, какие из слов Митти основаны на его собственном унылом опыте покупок и вождения, а какие заимствованы из более захватывающего мира, о котором он узнал из газет, книг или фильмов, но которого сам непосредственно не знал. Читатели рассказа без труда справляются с этой задачей. Мы понимаем, что Митти на самом деле не спасал банкира-миллионера с помощью героической операции и не возглавлял отчаянный авианалет на вражеский склад боеприпасов, тогда как полицейский действительно накричал на него за то, что он задремал за рулем, остановившись на светофоре.

Значение языка зависит от его доказательной базы. Если я скажу вам, что невесомость похожа на полет, имеет значение, испытывал ли я сам состояние невесомости или просто повторяю утверждение, которое где-то услышал или прочитал. Если я скажу вам, что верю в привидений, важно, видел ли я на самом деле призрак на чердаке или просто провел слишком много времени в глухих уголках интернета. В некоторых языках доказательная база утверждения встроена прямо в синтаксис. Например, носители турецкого языка используют специальные суффиксы, чтобы отличить информацию, полученную из первых рук, от информации, полученной из вторых рук. Доказательная база важна для интерпретации результатов работы языковых моделей, потому что, в отличие от людей, БЯМ не имеют непосредственного опыта взаимодействия с миром. Это помещает их, подобно Митти, в режим фантазии — в сферу, где все, что они говорят, вторично по отношению к чужому опыту. Неудивительно, что некоторые утверждают, будто БЯМ просто «попугайничают» свои обучающие данные или (менее вежливо) «брешут», ведь когда мы просто вторим чужим заявлениям, наша собственная доказательная база слабеет.

Таким образом, БЯМ могут описывать мир довольно точно, но их описания — это «вещи с чужого плеча», доставшиеся от людей, чьи слова составляют их обучающий корпус. БЯМ подобна неутомимому гостю на званом ужине, который терпеливо слушает истории, рассказываемые за супом и сорбетом, бесконечно пересказывая их другим гостям, но сам никогда не встает из-за стола, чтобы лично соприкоснуться с внешним миром. По мнению некоторых сторонников человеческой исключительности, это полностью исключает возможность того, что результаты работы БЯМ когда-либо смогут иметь «значение». В одной известной статье 2020 года утверждается, что БЯМ усваивают форму языка (то, какие токены сочетаются с какими), но поскольку они так и не учатся связывать эти токены с чем-либо во внешнем мире, они никогда не смогут постичь их значение.[*1]

Итак, если Митти никогда не был пилотом на самом деле, а лишь читал о бомбардировках в газетах или книгах, означает ли это, что язык, который он использует для их описания, полностью лишен значения? Это кажется слишком строгим условием, которое одним махом лишило бы значения многие великие литературные произведения мира, включая всю научную фантастику. Но, конечно (в рамках сюжета рассказа), Митти живет в реальном мире и, в отличие от БЯМ, может задействовать свои глаза и уши, чтобы осмыслить происходящее. Возможно, он не проводил операций на сердце, но наверняка бывал в больнице или встречался с врачом. Поэтому мы можем признать значение его слов, поскольку они отсылают к объектам или событиям, свидетелем которых он так или иначе был. Но с БЯМ все иначе. БЯМ ставят нас перед беспрецедентной загадкой, ведь мы еще никогда не сталкивались с субъектом, способным говорить, ни разу не познав мир с помощью органов чувств. Так можем ли мы приписывать «значение» словам, которые генерирует БЯМ?

Остроумный мысленный эксперимент призван убедить вас в том, что это невозможно. Он предлагает вам представить, что человек, не знающий тайского языка, каким-то образом оказался заперт в одиночестве внутри Национальной библиотеки Таиланда.[*2] Кто-то убрал оттуда все книги, которые могли содержать переводы или картинки, так что вы никогда не сможете связать тайские символы со знакомыми словами на вашем родном языке или с объектами и событиями за пределами