Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

далее. Наблюдая за развитием этой цепной реакции, невозможно не восхититься изобретательностью авторов. Должно быть, они в деталях просчитали, как физические и химические свойства объектов на каждом шаге запустят следующий этап, и создали гигантскую машину Руба Голдберга, соединив промышленный хлам, токсичные химикаты и неуемную страсть к пиромании.

В будущем людям потребуются системы ИИ, способные действовать в реальном мире. Чтобы БЯМ могла работать цифровым ассистентом, способным, скажем, надежно спланировать поездку за границу, ей нужно уметь нечто большее, чем просто поддерживать разговор. К сожалению, решать практические задачи в реальном мире гораздо труднее, чем давать бойкие ответы на каверзные вопросы. Чтобы успешно достигать жизненных целей, нам нужны те самые терпение и креативность, благодаря которым родился «Ход вещей». Представьте себе архитектора, создающего проект элегантного семейного дома, биолога, разрабатывающего вакцину против нового штамма гриппа, или пару, организующую свадьбу своей мечты в тропиках. Подобные реальные задачи требуют сложного планирования на многие шаги вперед, с сотнями точек принятия решений и тысячами мелочей, которые могут пойти не так. Если вы попросите современные БЯМ помочь с такими сложными проектами, как проектирование здания или планирование свадьбы, они, без сомнения, с радостью откликнутся — но предложат лишь банальные советы о том, как обеспечить достаточное естественное освещение, или порекомендуют праздничное меню. Они пока не умеют составлять разумные пошаговые планы, применимые в реальной жизни. У нас еще нет моделей, способных спроектировать подвесной мост, провести биологический эксперимент или продемонстрировать стальные нервы, необходимые для проведения детского праздника для шумной оравы пятилеток. Решение таких задач потребует создания нового поколения систем ИИ, способных к гораздо более сложному планированию.

Проблемы реального мира обладают тремя свойствами, которые делают их особенно сложными: они открыты (не имеют жестких рамок), неопределенны и протяженны во времени. Открытые проблемы — это те, где число возможных альтернатив практически безгранично. Фишли и Вайс выбирали из миллиона способов поджечь фитиль, точно так же как турист в Нью-Йорке может остановиться где угодно — от отеля «Уолдорф-Астория» до «Челси». Задачи с неопределенностью могут пойти наперекосяк из-за случайных событий. Крошечные неровности поверхности, разная концентрация серной кислоты или случайная осечка пиротехники — всё это могло сорвать «Ход вещей», подобно тому как при планировании поездки отель или рейс могут оказаться совершенно пустыми в одни выходные и переполненными в другие. Поэтому планирование в реальном мире требует резервных вариантов на случай непредвиденных обстоятельств. Наконец, протяженные во времени проблемы требуют планов, рассчитанных на долгосрочную перспективу. Если вы хотите стать барристером, вы не можете просто встать с постели и попросить местных солиситоров взять вас на работу. Вам нужно окончить юридическую школу, на что уйдут годы, а затем сдать квалификационный экзамен адвоката, требующий сотен часов прилежной учебы. Как и Фишли с Вайсом, в реальной жизни вам обычно приходится запускать сложную цепочку тщательно продуманных событий, чтобы достичь своих долгосрочных целей.

В части 1 мы видели, как первые исследователи ИИ, воспитанные в рационалистической традиции, представляли себе интеллектуальные системы, которые решали бы проблемы реального мира путем символьных рассуждений от средств к цели. Вспомните «Универсальный решатель задач» из 1950-х годов, создатели которого, Ньюэлл и Саймон, надеялись, что он сможет рассуждать о том, как отвезти детей в школу в дождливый день, когда у машины спущено колесо. Чтобы проверить свои идеи на практике, пионеры ИИ обратились к настольным играм, таким как шахматы, нарды и шашки, которые, как и реальный мир, протяженны во времени и потому требуют долгосрочного планирования для достижения конечной цели — победы над соперником. Сегодня, спустя десятилетия, у нас есть системы ИИ, способные разгромить гроссмейстеров-людей в шахматах и других высокостратегических настольных играх, таких как го и сёги. Stockfish и Leela Chess Zero, нынешние соперники в борьбе за звание ведущего шахматного движка, сочетают в себе нейронные сети с явными механизмами «поиска по дереву», которые сканируют возможные будущие состояния доски в систематических поисках выигрышного пути, чтобы загнать вашего короля в угол.

Однако, вопреки убеждениям таких светил, как Ньюэлл и Саймон, настольные игры на самом деле гораздо проще, чем решение повседневных жизненных задач — например, как вовремя доставить детей в школу. Дело в том, что настольные игры разворачиваются в крошечных детерминированных мирах вроде шестидесяти четырех клеток шахматной доски, а потому обходят стороной безграничность выбора, свойственную естественной среде — возможность делать все, что душе угодно, и когда угодно. Шахматные движки, по сути, работают за счет созданных вручную эвристик, которые целенаправленно сужают эту безграничность задачи. Один из примеров таких уловок — рассматривать только ходы по правилам, что кардинально ограничивает пространство возможных действий (ведь слоны могут ходить только по диагонали, а кони — буквой «Г»). Напротив, человеку — например, любителям, которые каждый день толпятся у шахматных столов в нью-йоркском Вашингтон-сквер-парке — приходится анализировать гораздо более широкое пространство возможных действий, ведь они вольны двигать своими руками как им вздумается. Теоретически они могли бы перепрыгнуть королем через всю доску, украдкой спрятать в карман вражеского ферзя или в порыве раздражения смахнуть все фигуры на пол — пусть даже после этого их вряд ли снова пригласят сыграть.

Пространство действий больших языковых моделей (БЯМ) огромно: оно сопоставимо с количеством токенов, которые модель способна сгенерировать — в большинстве случаев не менее 50 000. Из-за этого при игре в шахматы БЯМ оказывается в крайне невыгодном положении по сравнению с традиционными шахматными движками вроде Stockfish или Leela Chess Zero, поскольку физически не может просчитывать будущие состояния доски в поисках пути к победе. Чтобы понять почему, обратимся к недавней статье, авторы которой пытались научить языковую модель на базе трансформера играть в шахматы, генерируя состояния доски на языке шахматной нотации — например, вот так:

rnbqkbnr/pppppppp/8/8/4P3/8/PPPP1PPP/RNBQKBNR b KQkq e3 0 1

Хотя это похоже на результат случайного стука младенца по клавишам печатной машинки, на самом деле перед нами код для описания расстановки фигур на доске: каждая буква означает конкретную фигуру (например, r — это ладья), косая черта разделяет ряды шахматной доски, а цифры указывают количество пустых клеток подряд. Так, последовательность pppppppp — это непрерывная линия пешек, с которой начинает каждый игрок.[*2]

Авторы использовали тонкую настройку с учителем (которая, как мы видели в части 4, предполагает подачу дополнительных обучающих данных для направления модели к определенным типам ответов) на миллионах партий экспертного уровня, описанных как последовательности состояний доски в этой нотации. Такое дообучение побуждало модель предсказывать следующее состояние шахматной доски (выраженное в этой нотации) на основе предыдущего — точно так же,