Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

из работ использовался метод промптинга под названием «рекурсивная критика и улучшение» (recursive critique and improvement, RCI; упомянутый выше в контексте математических рассуждений).[*8] В рамках RCI модель сначала побуждают составить план, а затем подвергнуть его самокритике, выявляя пробелы в собственных рассуждениях. Предоставив модели несколько примеров синтаксиса, необходимого для управления клавиатурой и мышью, и дав команду рекурсивно улучшать результат, исследователи добились того, что она смогла бронировать авиабилеты и искать рецепты приготовления вкусного гуакамоле. Однако эта модель (как и родственные подходы) требует тщательной настройки промптов под каждую конкретную задачу, поэтому неясно, насколько хорошо эти результаты перенесутся на реальный мир с его бесконечным разнообразием кулинарных рецептов и систем бронирования авиабилетов.

Однако перейти от подобных экспериментальных разработок к созданию действительно работающих в реальном мире продуктов не так-то просто. Тем не менее на протяжении всего 2023 года стали появляться ИИ-продукты и инструменты с открытым исходным кодом, заявленная цель которых — полностью автоматизировать ваши цифровые задачи. Но реальность не всегда соответствует обещаниям на глянцевых сайтах или в оптимистичных твитах. Adept AI — это компания, создавшая одну из таких систем.[*9] Теоретически она позволяет описать задачу, которую вы хотели бы выполнить, например: «найди мне жилье на Airbnb в Амстердаме на первую неделю мая». Увы, на данный момент система кажется крайне хрупкой и требует от вас до мельчайших подробностей расписывать, куда кликать или что вводить в доступные текстовые поля (мне показалось, что примерно в десять раз быстрее просто зайти на сайт Airbnb самому — но, конечно, в будущем она вполне может стать лучше).

AutoGPT — это проект с открытым исходным кодом, работающий на базе GPT-4, укомплектованный модулями для использования инструментов, управления памятью и логического мышления.[*10] Идея проста. Запуская экземпляр AutoGPT, вы даете ему имя, роль и до пяти целей, которые он должен выполнить. Возможно, вы решите окрестить его «Профессор Предвидение», поручите ему предсказать исход следующих всеобщих выборов в Великобритании и предложите сделать это путем: 1. Чтения новостей; 2. Изучения существующих данных опросов; 3. Проведения исследования вероятных тенденций в общественном мнении; 4. Разработки веб-страницы, обобщающей окончательный прогноз с его обоснованием. Получив лишь эту краткую инструкцию и неограниченный доступ к вашим кредитам OpenAI, он сразу же погрузится в работу и начнет составлять план, непрерывно занимаясь самокритикой в процессе, ведя поиск в Сети, создавая код и занимаясь многим другим (каждое из этих действий требует вызова GPT-4 через собственный API, для чего и нужны кредиты). AutoGPT прямо-таки горит энтузиазмом и не пасует даже перед самыми амбициозными задачами, включая те, что лежат далеко за пределами его возможностей. Например, один пользователь сообщил, что, когда AutoGPT попросили написать руководство по программному обеспечению, одним из приоритетных пунктов в его списке задач было «протестировать его на тестовой группе пользователей и собрать отзывы». ИИ заявил, что отправляется выполнять этот пункт, а примерно через десять секунд вернулся и сообщил: «На основе полученных отзывов я доработал руководство».[*11] Должно быть, это была самая быстрая фокус-группа в истории. Аналогичный проект под названием BabyAGI не менее амбициозен — при его запуске задачей по умолчанию стоит «покончить с голодом во всем мире», что, возможно, заслуживает более пяти промежуточных целей, но кто знает?

Одна из потенциально катастрофических проблем с системами ИИ, способными автоматически использовать инструменты, заключается в том, что они с трудом понимают, когда нужно остановиться. Любой рядовой пользователь компьютера сталкивался с этой проблемой: программа часто «зависает» из-за того, что неожиданно попадает в бесконечный цикл в результате ошибочной логики или плохо написанного кода. ИИ-ассистенты вроде AutoGPT, похоже, необычайно склонны застревать в бесконечных циклах активности, при которых они раз за разом пытаются совершить одно и то же безуспешное действие или постоянно меняют свое решение, подобно невротичному политику-флюгеру. В одном отчете упоминалось, что, когда BabyAGI попросили создать руководство, BabyAGI раз за разом составлял список задач, отмечал галочкой первый пункт, а затем полностью переписывал весь список, ходя по кругу и так и не добравшись до второго пункта. Всё это довольно забавно, если только вы не тот человек, который платит за кредиты OpenAI. Существует немало жалоб от недовольных пользователей AutoGPT, которые давали ему поручение лишь для того, чтобы обнаружить, что он подчистую растратил их кредиты, добившись при этом ровным счетом нулевого результата. Один из пользователей саркастически написал в Твиттере:

Я использовал AutoGPT, чтобы заказать пиццу с пепперони и колбасками в Pizza Hut, и это было просто невероятно. Потребовался всего час времени и 1034,80 доллара в виде кредитов OpenAI.

Вот почему пользователи сочли разумным всегда добавлять в список финальную цель: 5. Остановиться по завершении.

Пропустить примечания

*1 Бесплатная версия по-прежнему имеет эту проблему, хотя на момент написания книги (конец 2023 года) дата отсечки данных установлена на январе 2022 года.

*2 Или, как обсуждалось выше, как если бы она страдала антероградной амнезией.

*3 Nakano et al., 2022.

*4 Schick et al., 2023.

*5 Этот диалог выглядел тем более странно, что, когда я впервые спросил модель о дате, она ответила абсолютно верно — но затем, когда я поинтересовался, откуда она это знает, она заявила, что «не обладает возможностями работы в режиме реального времени или доступом к актуальной информации», и потому никак не могла бы назвать текущую дату.

*6 Мы обсудим некоторые из этих более экзотических рисков в следующей главе.

*7 Yao, Zhao et al., 2023. О проекте WebShop см. Yao, Chen et al., 2023.

*8 Kim, Baldi, and McAleer, 2023.

*9 www.adept.ai/.

*10 https://github.com/Significant-Gravitas/AutoGPT.

*11 www.tomshardware.com/news/autonomous-agents-new-big-thing.

38. Инструментальный разрыв.

Вопрос на триллион долларов заключается в том, как превратить эти довольно комичные пробные запуски в нечто, что ведет себя по-настоящему целенаправленно — именно так, как мы ожидали бы от настоящего профессионального ассистента. Вспомните три этапа технологической эволюции, о которых говорилось в начале этого раздела. Когда речь заходит об истинных ИИ-помощниках (тех, которые действительно могут делать дела за вас), мы, пожалуй, все еще застряли где-то между «нефункциональной» и «забавной» стадиями, и пока не видно БЯМ, которым вы могли бы со спокойной душой поручить заказать пиццу (даже без дополнительных анчоусов). Сколько же времени потребуется, чтобы достичь следующего, «незаменимого» уровня? Возможно, стоит поддаться искушению экстраполировать бурные темпы прогресса в области ИИ и предсказать, что в самое ближайшее время у нас появятся БЯМ, способные выполнять длинные цепочки действий для решения рутинных