Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

как тонкая настройка безопасности учит модель предсказывать одно (вежливое) предложение за другим. Поскольку модель обучалась на играх профессионалов, авторы ожидали, что предсказанные ею состояния доски будут отражать хитрые шахматные ходы, позволяя БЯМ играть на уровне профи.

К сожалению, этот остроумный подход не увенчался успехом. Всему виной гигантское пространство действий. Наличие 50 000 возможных выходных токенов означает, что количество последовательностей, которые может сгенерировать БЯМ, равно 50 000n, где n — это длина последовательности (например, даже если бы одно состояние доски кодировалось всего двумя символами, у вас было бы по 50 000 вариантов для каждого, что дает 50 0002 возможных результатов). Таким образом, даже для совершения одного-единственного хода модели приходится выбирать из астрономического числа возможных последовательностей токенов. На самом деле ничто не мешает БЯМ выдать полную белиберду вместо разрешенного правилами хода в шахматной нотации. Так что у нее нет реальной возможности искать решение в языковом пространстве так, как это делает Stockfish, детально просчитывая будущие состояния доски, пока не найдет способ вас обыграть. Соответственно, в матчах один на один БЯМ оказалась совершенно не способна защититься от Stockfish — хотя время от времени ей удавалось продержаться несколько десятков ходов, прежде чем ее разносили в пух и прах, предположительно потому, что ее квазислучайная игра замедляла темп партии.[*3]

Другая исследовательская группа создала систему под названием ChessGPT — версию базовой модели GPT-4, которую в процессе тонкой настройки буквально засыпали шахматными партиями в виде нотации, шахматными задачами, книгами и блогами о шахматах и даже обсуждениями этой игры на Reddit. Несмотря на все это профильное шахматное обучение, система была способна найти мат в один ход лишь примерно в 60% случаев (да и то только после жирного намека на то, что победа уже близко). Получив состояние доски (опять же в виде нотации), ChessGPT могла предсказать исход партии (победа белых, победа черных или ничья) лишь в чуть более чем 50% случаев — результат, который лишь немногим лучше случайного угадывания и, пожалуй, не превосходит возможности не по годам развитого десятилетнего ребенка. Этот проект, очевидно, потребовал титанических усилий, но, увы, результаты оказались весьма скромными, и авторы даже не потрудились выставить ChessGPT на соревнования.[*4]

Еще одной сложнейшей задачей для исследований в области ИИ является разгадывание кроссвордов. В американском мире любителей кроссвордов головоломка New York Times — которую последние тридцать лет редактирует Уилл Шортс, единственный человек в мире с ученой степенью по энигматологии (науке о головоломках), — славится тем, что ее сложность возрастает с каждым днем недели. Даже опытные любители кроссвордов начинают испытывать трудности по четвергам, а к субботе большинство заходит в полный тупик. Тем не менее системы ИИ уже зарекомендовали себя как неплохие разгадыватели головоломок. В 2017 году система ИИ по имени Dr. Fill заняла 11-е место на Американском турнире по разгадыванию кроссвордов (своего рода Суперкубке для кроссвордистов), используя сочетание методов обработки естественного языка, поиска в Google и проверенных лайфхаков (таких как сверка со списком распространенных сокращений). С появлением трансформеров ее разработчики объединились с исследовательской группой по NLP в Калифорнийском университете в Беркли и создали гибридную систему, известную как Берклийский решатель кроссвордов (BCS). Используя языковую модель, специально адаптированную для генерации и проверки подсказок, она может разгадать криптический кроссворд New York Times примерно в 80% случаев,[*5] что весьма недурно — и уж точно лучше результатов среднестатистического пассажира пригородного поезда на железной дороге Лонг-Айленда.

Тем не менее БЯМ всё еще с трудом справляются с кроссвордами. Я попросил ChatGPT разгадать несколько подсказок для британских криптических кроссвордов, и результаты оказались довольно блеклыми. В режиме zero-shot (то есть без добавления в промпт примеров подсказок с соответствующими ответами) GPT-4 оказалась почти полностью неспособна справиться с криптическими подсказками из ведущих британских газет (в чем она, конечно, мало отличается от 99% людей). Вот один из примеров, где она хотя бы угадала правильный ответ: «One criticized about nothing becomes cut off (8)». Однако, к сожалению, предложенное ею объяснение было совершенно нелогичным:

«ISO» можно получить путем перестановки букв или как синоним слов «One criticized» (раскритикованный) или «censured» (порицаемый).

«LATE» — это синоним слова «about» (около) в значении «находящийся поблизости» или «рядом».

«D» означает «nothing» (ничто) или ноль, часто обозначаемый как «O».

Всё это, боюсь, полная чушь (хотя, честно говоря, я бы справился не лучше). На самом деле фраза «criticized about nothing» (раскритикованный вокруг «ничего») указывает на слово «slated» (раскритикованный), в которое помещается ноль (буква «O»), а «one» (один) — это римская цифра I в самом начале, что в итоге дает правильный ответ: Isolated (изолированный). К сожалению, пока никто не сообщал о создании БЯМ, способной систематически решать криптические кроссворды — как и в шахматах, БЯМ здесь сильно уступают специализированным программам-решателям. И понятно почему. Подсказки здесь представляют собой замысловатые ребусы, в которых смешиваются игра слов, анаграммы и малоизвестные факты. Чтобы просто понять, с чего начать, требуются недели практики даже для людей, прекрасно владеющих словом. Более того, ответы должны идеально стыковаться друг с другом в сетке кроссворда, причем каждая догадка накладывает ограничения на последующие — а это классическая задача многошагового планирования. Как в шахматах и го, цель достигается только через длинную последовательность тщательно выверенных ходов по мере постепенного заполнения сетки. Всё это пока не под силу современным БЯМ.

Однако в данный момент, когда я пишу эти строки, исследователи работают над БЯМ, способными составлять четкие, явные планы. Ирония судьбы заключается в том, что для этого многие обратились к идеям, восходящим к символьному ИИ. Классическая идея из области исследований ИИ конца XX века состоит в том, что задачу планирования можно представить в виде дерева решений, где каждая развилка — это выбор, а каждая ветвь — возможное действие. Например, если вы находитесь на станции «Шепердс-Буш» лондонского метро и хотите доехать до «Олд-стрит», мы можем представить дерево возможных маршрутов, состоящее из развилок (пересадочных станций) и ветвей (перегонов между ними). Не каждая ветвь в итоге приведет вас к цели: если вы сделаете пересадку на «Ноттинг-хилл» и поедете на юг по линии Дистрикт, то окажетесь в Уимблдоне — это здорово для любителей тенниса, но это очень далеко от вашего пункта назначения. Поэтому вам нужно заняться поиском, мысленно перебирая возможные маршруты и представляя последствия выбора ветви x на развилке y. Примерно так работают алгоритмы поиска в шахматах — как в современных гибридных системах, так и в старых символьных моделях вроде Deep Blue,