Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

одинакового нейронного ответа дважды. Это означает, что результаты работы системы формируются на основе соотношения вероятностей. Нам приятно думать, что наш мозг выдает четкие и однозначные ответы, но по своей сути он представляет собой вероятностную систему. Поэтому, изучая вычисления, происходящие в биологических нейронных цепях, мы обнаруживаем, что всё это — сплошное прогнозирование до самого основания.

Сэм Альтман, генеральный директор OpenAI и уж точно не вычислительный нейробиолог, как-то почувствовал это, когда спустя несколько дней после того, как в 2022 году ChatGPT был запущен под оглушительные фанфары, написал в Твиттере: «Я стохастический попугай, и вы тоже».

И это высказывание, пусть и слегка шутливое и язвительное, совершенно верно указывает на то, что прогнозирование — это общая вычислительная основа обучения как для людей, так и для БЯМ. Когда комментаторы высмеивают БЯМ за то, что те «всего лишь строят прогнозы», они упускают из виду тот факт, что прогнозирование поступающей сенсорной информации — это буквально то, как происходит обучение во всех биологических системах, от самых простых червей и мушек до человеческого мозга с его миллиардами нейронов и мозга наших ближайших родственников-приматов. Обучение и прогнозирование идут рука об руку.

Пропустить примечания

*1 Dehaene et al., 2022. Этим прекрасным примером человеческого геометрического мышления я обязан этой работе.

*2 Shah and Bender, 2022.

*3 Liu and Low, 2023.

*4 Эта идея двух систем восходит как минимум к 1970-м годам (Shiffrin and Schneider, 1977). Первоначально эти две системы назывались «автоматической» и «контролируемой». У животных их чаще называют «системой на основе привычек» и «целенаправленной системой». Однако сравнительно недавно лауреат Нобелевской премии Даниэль Канеман (которому мы обязаны оригинальной версией задачи о велосипеде и замке, приведенной ниже) переименовал их в «Систему 1» и «Систему 2», так что вы, возможно, слышали именно эти термины (Kahneman, 2012).

*5 www.newyorker.com/magazine/2018/09/03/the-mystery-of-people-who-speak-dozens-of-languages.

*6 Binz et al., 2023.

21. Эмерджентное познание.

Трудно осознать, как сложность может рождаться из простоты. Один из вечных примеров — то, с каким трудом мы принимаем мысль, будто замысловатые чудеса природы возникли без направляющей руки божественного творца. Возьмем человеческий глаз, который, кажется, был создан с исключительным тщанием, чтобы проецировать изображение на сетчатку. Зрачок идеально приспособлен для регулирования общего уровня освещенности за счет расширения и сужения, а хрусталик становится то более выпуклым, то более плоским, чтобы точно сфокусировать изображение на фоторецепторах сетчатки, чья чувствительность к длине волны идеально настроена для различения ключевых цветов. Как нечто столь совершенное могло возникнуть случайно? Наиболее известное изложение этого аргумента принадлежит скромному английскому священнику Уильяму Пейли, который в 1802 году заявил: подобно тому, как механическое совершенство карманных часов требует существования часового мастера, безупречное устройство Вселенной служит неопровержимым доказательством существования разумного создателя. Аргумент Пейли о «часовщике» так никогда полностью и не ушел в прошлое. Сегодня в США христианские активисты продолжают ратовать за то, чтобы «разумный замысел» преподавали в школах как законную альтернативу эволюционной теории Дарвина.

У систем ИИ, конечно, есть создатель, и в некоторых случаях — разумный. Но возникает тот же соблазн: кажется почти чудом, что система ИИ способна демонстрировать такие формальные способности, как математика, логика и синтаксис, без того, чтобы они были заложены в нее вручную. Однако при решении новых математических задач GPT-4 не обращается к специализированной программе и не запрашивает библиотеку канонических уравнений, которую исследователь ИИ заботливо загрузил в ее «мозг»[*1]. Напротив, ее способность справляться с этим классом задач возникает сама по себе в процессе обучения сети предсказывать следующий токен — что и порождает контекстное обучение. В LLM, как и в эволюции, сложность рождается из простоты. Вычисления, выполняемые трансформером, относительно просты: они включают в себя встраивание (эмбеддинг) векторов признаков, их взвешивание с помощью механизма самовнимания и распределение вычислений по головкам внимания и слоям. Даже формальное алгоритмическое описание трансформера относительно компактно: в одной из недавних статей, исчерпывающе подробно описывающей каждый вычислительный шаг, оно заняло менее десяти страниц[*2]. Но в процессе обучения возникает непостижимо сложная модель человеческого языка, закодированная в миллиардах параметров. Термин «эмерджентность» означает, что при наличии достаточного времени, данных и вычислительных мощностей сложные функции могут развиваться на основе базового набора принципов. Человеческий глаз не был спроектирован вручную благосклонным творцом, а развился в процессе естественного отбора, когда крошечные светочувствительные участки кожи (глазные пятна) постепенно, на протяжении бесчисленных поколений, превращались в мощный зрительный аппарат. Естественный отбор — это слепой вычислительный процесс, в котором генетический код успешных фенотипов с большей вероятностью передается дальше по наследственной линии. Апеллируя к Пейли, биолог Ричард Докинз назвал эволюцию «слепым часовщиком».

Таким образом, рецепт интеллектуальных вычислений опирается на несколько удивительно простых ингредиентов. Эти ингредиенты представляют собой процессы, которые обучают колоссальную нейросеть тому, что с чем сочетается в потоке входных данных, чтобы предсказать, какой токен будет следующим. Кажется почти чудом, что, следуя этому рецепту, трансформеры способны улавливать все невероятное семантическое богатство человеческого языка. Поразителен тот факт, что, изучив статистические закономерности языка, LLM, похоже, обретают способность «мыслить» над совершенно новыми задачами — они научились учиться, совсем как люди. Как такое возможно?

Чтобы понять, как работает контекстное обучение, представьте себе трансформер, обученный на довольно скучном корпусе текстов, где речь идет исключительно о том, как добраться от одного ориентира к другому в нью-йоркском районе Манхэттен. Вот пример промпта из этого корпуса:

Эмпайр-стейт-билдинг находится в 3 кварталах к востоку и в 9 кварталах к югу от Крайслер-билдинг. Крайслер-билдинг находится в 3 кварталах к западу и в 7 кварталах к югу от Рокфеллер-центра. Рокфеллер-центр находится в 26 кварталах к северу от Флэтайрон-билдинг. Ориентир, который находится в 10 кварталах к югу от Эмпайр-стейт-билдинг, называется __________.

Представьте, что мы обучаем нейросеть на задачах, связанных исключительно с Манхэттеном (назовем это узким режимом обучения). Сеть, несомненно, научится определять пространственные отношения между такими ориентирами, как Крайслер-билдинг и Флэтайрон-билдинг. Но вообразите, что на этапе тестирования вы предлагаете ей следующий запрос, где ориентирами выступают станции метро в аккуратной сетке улиц района Эшампле в Барселоне:

Пасео-де-Грасия находится в 4 кварталах к западу и в 1 квартале к югу от Жироны. Вердагер находится в 1 квартале к востоку и в 4 кварталах к северу от Жироны. Диагональ находится в 6 кварталах к северу от Пасео-де-Грасия. Ориентир, который находится в 5 кварталах к востоку и в 1 квартале к югу от Диагонали, называется __________.

Сеть, обученная в узком режиме,