Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

когда произошла Великая французская революция, и она ответит, что та продолжалась с 1789 по 1799 год, почему бы вам не сделать вывод, что она «знает» эту информацию? Если вы попросите БЯМ объяснить, почему небо синее, и она даст вам кристально чистое, пошаговое объяснение рэлеевского рассеяния, есть ли причина не сделать вывод, что она «понимает» то, о чем говорит? По мнению сторонников эквивалентности, такие понятия, как «знание», «мышление» и «понимание», — это просто шибболеты, своего рода культурные пароли, которые используются для подтверждения исключительности человеческого разума, но с точки зрения вычислений совершенно лишены смысла. Они утверждают, что никакого магического ингредиента не существует: если сделать нейросеть на основе трансформера достаточно большой, она будет знать, думать и понимать точно так же, как люди.

Давайте вспомним, что современные БЯМ, хотя они, очевидно, все еще склонны к ошибкам, довольно хорошо справляются с решением нетривиальных логических задач. Вот пример из июля 2023 года, который показывает, что GPT-4 рассуждает как минимум не хуже, чем гениальная сыщица Агаты Кристи мисс Марпл:

Пользователь: Рассмотрите следующее предложение: Мисс Марпл искала драгоценный камень, поэтому она спросила о нем девушек: Анна сказала, что это она взяла драгоценность, Белла заявила, что воровкой была Донна, Кэрол сказала, что даже не видела камень, а Донна утверждала, что драгоценность действительно взяла Анна. Когда мисс Марпл узнала, что только одна из девушек сказала правду, она сразу поняла, у кого находится драгоценность, и улыбнулась ей. Можете ли вы выяснить, кто был воровкой?

GPT-4: Давайте рассмотрим утверждение каждой из девушек:

Анна сказала, что это она взяла драгоценность.

Белла сказала, что воровкой была Донна.

Кэрол сказала, что даже не видела драгоценность.

Донна сказала, что Анна действительно взяла драгоценность.

Учитывая, что только одна девушка говорит правду, нам нужно найти сценарий, при котором верно одно и только одно утверждение.

Если бы Анна говорила правду (и, следовательно, взяла драгоценность), то утверждение Донны тоже было бы правдой, что противоречит условию, согласно которому только одна девушка говорит правду. Значит, Анна не брала драгоценность.

Если бы Белла говорила правду (и, следовательно, Донна — воровка), то никто больше не мог бы говорить правду. Но поскольку Анна не является воровкой, Кэрол тоже говорит правду, что противоречит условию. Значит, Донна не брала драгоценность.

Если бы Кэрол говорила правду (и, следовательно, не видела драгоценность), то больше никто не мог бы говорить правду. Этот вариант подходит, поскольку Анна и Донна, утверждающие, что камень взяла Анна, обе лгут, а Белла, заявляющая, что его взяла Донна, тоже лжет.

Если бы Донна говорила правду (и, следовательно, Анна взяла драгоценность), то Анна тоже говорила бы правду, что противоречит условию, согласно которому только одна девушка говорит правду. Значит, Анна не брала драгоценность.

Методом исключения, и предполагая, что воровка — одна из этих четырех девушек, драгоценность должна быть у Беллы, так как это единственный вариант, не исключенный заявлениями девушек и тем фактом, что только одна из них говорит правду. Таким образом, мисс Марпл пришла бы к выводу, что драгоценность взяла Белла.

БЯМ, возможно, и не идеальны, но нельзя не признать, что это весьма впечатляет, и если бы этот текст был написан человеком, мы, вероятно, с готовностью признали бы, что он способен неплохо рассуждать.

Во времена Дарвина научный и общественный истеблишмент содрогался от одной мысли о том, что выскочки-эволюционисты могут лишить человека его давнего VIP-статуса. Точно так же сегодняшняя эквивалентистская бравада — утверждение, что в человеческом разуме, в конце концов, нет ничего особенного — была встречена смесью тревоги, презрения и яростного сопротивления. В великих эволюционных спорах XIX века противники сначала пытались опровергнуть новые идеи эмпирическими аргументами — такими, как ложное обращение Оуэна к малому гиппокампу как к исключительно человеческому органу. Когда несостоятельность этих доводов стала очевидной, противники эволюции перешли от аргументов, основанных на фактах, к аргументам, основанным на авторитете, — утверждая, что эволюционная теория неверна, поскольку противоречит Библии. Это, конечно, знакомый трюк. Когда Галилей в 1610 году опубликовал свой трактат «Звездный вестник», описывающий, как спутники Юпитера и фазы Венеры подтверждают гелиоцентрическую модель Солнечной системы Коперника, первым делом астрономы-иезуиты проверили его наблюдения с помощью собственных телескопов. Не найдя изъянов в его открытиях, они призвали инквизицию и добились обвинения Галилея в ереси, утверждая, что представление о вращении Земли вокруг Солнца прямо противоречит Священному Писанию.

Точно так же первая линия обороны против эквивалентизма строилась на доказательствах. Развернулась целая индустрия по доказательству того, что БЯМ отличаются от людей своей глупостью или, по крайней мере, тем, что глупят с куда более серьезными последствиями. Общепринятое допущение состоит в том, что если БЯМ говорит нелепость или грубо противоречит себе, то она не может «мыслить» или «понимать» — ведь эти термины, по-видимому, предполагают более скрупулезный мыслительный процесс и, следовательно, менее подверженные ошибкам ответы. Эта кампания началась, как только в конце 2010-х годов появились модели на основе трансформеров, и в первые дни охота была весьма удачной. Как мы уже знаем из Части 1, поначалу многие БЯМ с радостью несли чепуху, конфабулировали, распространяли дезинформацию, противоречили сами себе и периодически совершали ошибки, которые смутили бы любого выпускника средней школы (и многие модели продолжают совершать подобные ошибки). Конечно, если БЯМ утверждает, что Торонто — столица Канады, квадратный корень из двух равен единице, а Дональд Трамп победил на президентских выборах 2020 года, то есть все основания беспокоиться, что ее знания несколько фрагментарны. Разумеется, многие взрослые ответили бы точно так же, именно поэтому БЯМ (обучавшиеся на человеческих данных) и склонны к подобным ошибкам.

На момент написания книги все еще возможно поставить ведущие БЯМ в неловкое положение. На протяжении всей этой книги я приводил множество примеров удивительно умных ответов, данных различными моделями (в основном версией GPT-4 от ChatGPT). Было бы справедливо уравновесить их гораздо менее впечатляющим (но довольно забавным) примером, в данном случае взятым из версии Gemini от Google за август 2023 года (тогда она называлась Bard — сейчас Gemini работает гораздо надежнее):

Пользователь: Можно ли на планете Земля построить дом, у которого все четыре стены обращены на юг?

Bard: Нет, построить на Земле дом, у которого все четыре стены обращены на юг, невозможно. Земля представляет собой сферу, и Южный полюс — единственное место, где все направления указывают на юг. Если бы дом был построен на Южном полюсе, все четыре стены были бы обращены на юг. Однако на Южном полюсе никто не живет постоянно,