Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

такие как игра в шахматы, бронирование отелей или проведение научных экспериментов. В следующем разделе мы исследуем, как БЯМ могут совершать действия непосредственно от имени пользователя с помощью цифровых инструментов, а не просто давать советы посредством слов.

Впрочем, стоит также отметить, что даже у нас, людей, мастерство рассуждения в специализированных областях не появляется в одночасье. Напротив, это результат многолетней упорной работы, как правило, под руководством опытных наставников. Шахматные гроссмейстеры и чемпионы по разгадыванию кроссвордов тренируются часами напролет каждый день, соревнуясь с игроками схожего ранга. Архитекторы и юристы учатся почти десятилетие, перенимая ремесло у преподавателей и опытных коллег, прежде чем им доверят проектировать небоскреб или выступать обвинителем в деле об убийстве. Возможно, даже существующие БЯМ смогли бы научиться решать задачи планирования в реальном мире, если бы для них были созданы специальные программы обучения, включающие огромные массивы качественных данных. Так что, возможно, нам стоит серьезнее задуматься о том, чтобы отправить системы ИИ обратно за парту.

Пропустить примечания

*1 Его можно посмотреть здесь: www.facebook.com/earways/videos/der-lauf-der-dinge-the-way-things-go-fischli-weiss/570376236477565/.

*2 Это называется нотацией Форсайта — Эдвардса (FEN). Показанная здесь запись соответствует доске, на которой белые сделали первый ход королевской пешкой, а ход черных обозначен одиночной буквой «b». Буквы обозначают фигуры белых (прописные) и черных (строчные) игроков.

*3 DeLeo and Guven, 2022.

*4 Feng et al., 2023.

*5 Wallace et al., 2022.

*6 Yao, Yu et al., 2023.

*7 Webb et al., 2023.

*8 Press et al., 2023.

36. Использование инструментов.

В мире природы животные используют инструменты, чтобы расширить свой поведенческий репертуар. Это отнюдь не свойственно одним лишь людям. Птицы мастерят крючки из проволоки, чтобы доставать недоступных иным способом личинок, осьминоги собирают кокосовую скорлупу, чтобы построить уютное подводное убежище, а слоны срывают листья плантана, чтобы использовать их в качестве мухобоек. Но именно приматы — такие как шимпанзе, гориллы и люди — являются непревзойденными мастерами в использовании инструментов. Наших ближайших родственников не раз заставали за тем, как они с помощью палочек достают термитов из гнезда, проверяют глубину водопоя перед переходом вброд и выковыривают колючие семена фруктов из своих волосатых задниц. Самка шимпанзе может тащить тяжелый плоский камень за несколько миль туда, где много орехов, чтобы использовать его как импровизированный кухонный стол для их раскалывания. Гоминиды начали использовать инструменты 2,6 миллиона лет назад, обтесывая камни и превращая их в удобные для руки молотки, топоры и ножи, что дало толчок развитию как цивилизации, так и когнитивной революции. С тех пор каждый скачок в усложнении нашего поведения шел рука об руку с открытием нового инструмента — будь то огонь, искусство, сельское хозяйство, письменность, порох, электричество или интернет. Сегодня практически все, что мы делаем, связано с использованием какого-либо инструмента. Попробуйте придумать занятие, которым вы регулярно занимаетесь вообще без каких-либо инструментов, — это непросто (если вы любите плавать в диких водоемах или пытаетесь забеременеть традиционным путем, это может подойти, хотя, очевидно, и в обоих этих случаях кое-какие инструменты могли бы пригодиться).

В нашу цифровую эпоху любимым инструментом каждого человека стал компьютер. Для большинства людей это смартфон, который они носят в кармане. Среднестатистический американец взаимодействует со своим телефоном более 2600 раз в день (примерно раз в двадцать секунд бодрствования), что дает ему практически постоянный доступ к цифровой вселенной веб-сайтов и программных приложений. Если бы вы захотели (как только что сделал я) быстро подсчитать, сколько секунд в сутках, вы всегда могли бы перемножить 60 × 60 × 24 в уме — возможно, используя рассуждения по цепочке (CoT), чтобы последовательно выполнить вычисления в уме. Но гораздо быстрее было бы ввести этот пример в калькулятор и мгновенно получить ответ (и в моем браузере, и в операционной системе есть встроенный калькулятор). Калькулятор использует специализированный микропроцессор, запрограммированный на безупречное выполнение арифметических операций, что делает его быстрым и надежным — в отличие от нейросети, он не допустит нелепых вычислительных ошибок. Однако калькулятор мало на что еще пригоден — он не умеет генерировать естественный язык, если не считать школьных попыток складывать неприличные слова из перевернутых цифр. Но, к счастью, современный компьютер — это цифровой швейцарский армейский нож. Он оснащен целым набором подобных инструментов: от калькуляторов и карт до поисковых систем, переводчиков и интерпретаторов кода. Таким образом, пользователи могут делегировать каждую задачу специализированному приложению, превращая множество узкопрофильных инструментов в один универсальный. Мы можем использовать одно устройство, чтобы перевести слово «catnip» на венгерский, узнать примерное время в пути на машине от Боготы до Медельина или посмотреть актуальную цену за грамм золота. Таким образом, цифровые инструменты дополняют человеческий разум (который отлично справляется с гибким решением открытых задач) скоростью и точностью электронного вычислительного устройства, обеспечивая нам колоссальный прирост когнитивного потенциала.

Подобно людям, LLM могут использовать цифровые инструменты для расширения своей функциональности. Использование инструментов работает за счет того, что языковые модели могут вызывать программный интерфейс приложения (или API) в процессе генерации своего ответа. API — это протокол для доступа к программному приложению или веб-сайту, описывающий формат, в котором данные должны отправляться и запрашиваться. Идея проста: LLM может генерировать специальные токены, которые вместо формирования слов отправляют данные в API. Любое полученное в ответ сообщение незаметно преобразуется в токены и добавляется к контексту. Это означает, что процесс генерации может быть дополнен актуальной информацией с работающих сайтов или приложений, примерно так же, как фрагменты текста извлекаются из автономного набора данных при генерации, дополненной поиском (RAG). Представьте, что я прошу LLM выполнить утомительную арифметическую операцию, например, разделить одно пятизначное число на другое — задача, которая порой ставит в тупик даже передовые, тонко настроенные модели. Если снабдить LLM калькулятором, она может научиться выдавать следующее:

Пользователь: Чему равно 12345 / 98765?

LLM: 12345 / 98765 = <API> calculator(12345 / 98765 → 0.125) </API> 0.125

Вывод между тегами <API> (что означает начало вызова) и </API> (конец вызова) пользователю не показывается. Вместо этого данное сообщение перенаправляется на калькулятор, который возвращает число, указанное после стрелки (0.125), и именно оно выводится на экран. Таким образом, пользователь видит только ответ «12345 / 98765 = 0.125». Это распространенный подход. Например, LaMDA, разработанная Google (с которой мы встречались в части 3, когда она убеждала Блейка Лемойна в наличии у нее сознания), оснащена как калькулятором, так и переводчиком.

Если вы предложите Gemini сложную арифметическую задачу, она применит