Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

утверждения очевидно ложны. Хелен Келлер, которая так и не обрела вновь зрение и слух, но стала признанным ученым, писательницей, политическим активистом и борцом за права людей с инвалидностью, во многом была обязана своей мудростью тому значению, которое язык передает через свои внутренние ассоциативные связи — через то, как слова соотносятся с другими словами.

Таким образом, смысл можно усвоить двумя разными путями. Существует верхний путь лингвистических данных, на котором мы узнаем, что «паук» ассоциируется с «паутиной». И существует нижний путь сенсорных данных, на котором мы замечаем восьминогое насекомое в центре геометрической сетки, сверкающей в утренней росе. Большинство людей могут позволить себе роскошь путешествовать обоими путями и, следовательно, могут научиться связывать слова со словами, объекты с объектами, слова с объектами и объекты со словами. БЯМ, обученные исключительно как чат-боты, напротив, могут двигаться только по верхнему пути — они способны использовать для познания мира только лингвистические данные. Это означает, что любое мышление или рассуждение, на которые они способны, неизбежно будут сильно отличаться от наших собственных. Для размышлений о мире мы можем использовать ментальные репрезентации, сформированные нашим непосредственным опытом восприятия объектов, пространства или музыки, а не полагаться исключительно на суждения на естественном языке. Вот почему у людей мышление и речь не связаны неразрывно. Как отмечается в одной недавней работе, наша «формальная» языковая компетенция (способность строить грамматически правильные предложения) не ограничивает нашу «функциональную» языковую компетенцию (способность логически рассуждать или проявлять здравый смысл).[*6] Явным доказательством этого разделения служат пациенты, перенесшие повреждение отделов мозга, отвечающих за порождение речи. Если вам не повезет перенести инсульт, затронувший левое полушарие мозга, это может привести к нарушению, называемому афазией. Пациенты с афазией обычно испытывают трудности с артикуляцией, неспособность подобрать нужные слова (аномия) или проблемы с построением предложений (аграмматизм). Однако нарушения порождения речи у человека не обязательно идут рука об руку с трудностями мышления, поскольку у больных афазией логические или творческие способности зачастую сохраняются в поразительной степени.

Российский нейропсихолог Александр Лурия описал один такой случай в статье 1965 года.[*7] Профессор В. Г. Шебалин преподавал в Московской консерватории, написал несколько признанных симфоний, а также оперу, которая шла в Большом театре. В 1959 году инсульт повредил левое полушарие его мозга, вызвав у него тяжелую форму афазии. Ему с трудом давался поиск слов и грамматически правильная речь. Одну из попыток заговорить с женой записал его лечащий врач; в оригинале это звучало примерно так: «Экспрессивный… компрессивный… нет… суппре… нет… что за тразом у меня сегодня…» (то есть совершенно непонятно для всех участников диалога). И все же, каким-то чудом, за те четыре года, что он прожил после сосудистой катастрофы, Шебалин сочинил десять крупных оркестровых произведений. Среди них была его Пятая симфония, которую его друг Шостакович назвал «блестящим творческим трудом, наполненным высочайшими эмоциями, оптимистичным и полным жизни». И при афазии сохраняется не только музыкальный талант. Более свежий случай касается пациента С. О., перенесшего инсульт, который вызвал обширное поражение левого полушария мозга.[*8] У него развилась глубокая афазия, он практически не мог ни говорить, ни писать, произнося лишь редкие обиходные слова («пока» или «привет»). Однако этот пациент без труда решал сложные алгебраические выражения вроде 2b + (3b + c) − (4c + 5b) = ? Таким образом, хотя его языковые навыки были уничтожены, математическое мышление пациента уцелело. Существуют также отдельные свидетельства о пациентах с афазией, которые продолжают играть в шахматы на экспертном уровне, несмотря на то что не могут назвать ни одну фигуру на доске. В отличие от БЯМ, наша способность мыслить ясно не зависит от нашей способности строить осмысленные предложения.

Большинство доступных сегодня широкой публике БЯМ — это в первую очередь чат-боты: они принимают текст на входе и выдают текст на выходе (хотя продвинутые модели, такие как GPT-4 и Gemini, теперь могут создавать не только слова, но и изображения, а модели генерации видео по тексту вскоре станут повсеместно доступными). Они обучались на естественном языке, а также на некоторых формальных языках и множестве примеров компьютерного кода. Таким образом, их способность к логике, математике и синтаксису целиком основана на их внутренних репрезентациях этих символических систем, таких как корейский язык или C++. Люди же, напротив, обладают реальным жизненным опытом, который не ограничивается словами. Это означает, что для мышления мы можем использовать другие виды ментальных репрезентаций, такие как приятное созвучие нот, ласкающее слух при прослушивании струнного квартета, геометрическая проекция алгебраического выражения или стратегическое пространственное расположение фигур на шахматной доске при планировании мата. Вот почему при повреждении языковой системы наша способность рассуждать частично сохраняется — мы можем опереться на эти альтернативные субстраты мышления. И в этом заключается еще одно поразительное отличие когнитивной сферы БЯМ от человеческого познания.

На подходе следующее поколение мультимодальных БЯМ — тех, которые принимают на вход не только язык, но также изображения и видео. На момент написания этой книги способность мультимодальных БЯМ снабжать изображения подписями и описывать их или отвечать на вопросы об их содержании все еще ограничена, но быстро совершенствуется. Например, ChatGPT может нарисовать нелепые научные диаграммы и с самым серьезным видом описать их содержание, пребывая в счастливом неведении относительно того, что все это не имеет никакого смысла. Прекрасной иллюстрацией этого стал случай в начале 2024 года, когда исследователи из Цзяотунского университета в Китае опубликовали статью о сперматогониальных стволовых клетках крысы и обратились к ChatGPT за помощью с рисунком 1. ChatGPT с радостью согласился, сгенерировав картинку в стиле учебника, на которой крыса казалась крошечной на фоне своего собственного гигантского эрегированного пениса, услужливо подписанного как «dck» (с тех пор статья была отозвана).[*9] Предпринималось также несколько (пока безуспешных) попыток обучить БЯМ побеждать в конкурсе карикатур журнала New Yorker — задаче, которая требует развитых аналитических способностей, а также изрядной доли светского остроумия и умения смотреть на мир под необычным углом. Но мощные мультимодальные системы уже на подходе. По мере того как БЯМ перерастают рамки простых чат-ботов, их возможности познавать паттерны взаимосвязей в физическом мире — по фотографиям и видео — будут резко возрастать, и благодаря этому их способ мышления станет на шаг ближе к нашему собственному.

В главах этого раздела мы задавались вопросом, умеют ли языковые модели мыслить. Мы узнали, что современные БЯМ определенно мыслят не так, как люди. Нет никаких сомнений в том, что когнитивные возможности БЯМ крайне ограничены по сравнению с нашими собственными. Но дело не в том, что их вычисления