Заслуженный собеседник. Искусство диалога с искусственным интеллектом - Андрей Владимирович Курпатов

• и они тоже вынуждены «проецировать» это многомерное пространство в линейную последовательность слов, когда дают нам ответ – точно также «облака проливаются дождём слов».

Когда мы взаимодействуем с ИИ, мы сталкиваемся с двойным языковым фильтром: с одной стороны, наше собственное предсознательное понимание проходит через фильтр языка, когда мы формулируем запрос, и с другой стороны, богатое латентное пространство значений ИИ проходит через фильтр языка, когда формулируется ответ.

В результате многое из того, что мы действительно имеем в виду, и многое из того, что ИИ действительно мог бы нам предложить, теряется при переходе через эти узкие языковые горлышки.

Метаязык принципов позволяет частично преодолеть это ограничение. Формулируя запросы в терминах процессов, отношений, целостностей, мы активируем в латентном пространстве ИИ более богатые и многомерные связи, чем если бы мы использовали обычный, закрыто-системный язык.

Далее мы подробно рассмотрим, как функционирует мышление искусственного интеллекта, и как использовать метаязык принципов для более глубокого и продуктивного диалога с ним.

Подведём промежуточные итоги

Возвращаясь к аналогии с квантовой механикой: если обычный язык создаёт «коллапс волновой функции» мышления, то метаязык позволяет сохранить больше «квантовой суперпозиции», больше потенциальности, больше открытости системы.

Это не означает отказ от ясности и точности мышления. Напротив, это путь к более глубокой точности, которая не искажает сложность реальности ради простоты формулировок.

Открыто-системное мышление через метаязык принципов – это не альтернатива обычному мышлению, а его расширение, включающее в себя более богатый спектр возможностей нашего познания. Это путь преодоления ограничений, которые мы сами неосознанно накладываем на наше мышление, когда принимаем языковой фильтр за единственно возможный способ понимания мира.

Самое удивительное в том, что наш мозг уже умеет мыслить открытыми системами. Нам нужно просто научиться не терять это умение, когда мы переходим от интуитивного понимания к мышлению, использующими концептуальный аппарат, а также в процессе коммуникации.

В следующей главе мы рассмотрим, как устроено мышление искусственного интеллекта, и почему оно может служить для нас моделью открыто-системного мышления, несмотря на свои ограничения.

Но прежде предлагаю вам небольшой мысленный эксперимент:

Вспомните ситуацию, когда у вас возникло интуитивное понимание чего-то важного, но вы испытывали трудности, пытаясь выразить это словами.

• Как вы справились с этой ситуацией?

• Удалось ли вам передать богатство своего понимания, несмотря на ограничения языка?

Третья глава

Внутри цифрового разума: как ИИ видит мир

Как и в человеке есть немного от шимпанзе, в машинах будущего будет немного человеческого.

Но они смогут перекомпилировать себя и сказать: ну, у нас есть все эти вещи, которые мы унаследовали от людей, и они делают нас такими медленными.

Поэтому давайте перепишем весь код и удалим старые комментарии.

Марвин Мински

Что, если бы мы могли заглянуть в сознание совершенно иного разума? Разума, который воспринимает мир не через биологические органы чувств, а через потоки данных? Который не имеет тела, не испытывает эмоций, у которого нет личной истории? Того, что никогда не испытывало голода или страха, не переживало радости, злости или разочарования?

Именно таков искусственный интеллект. Как же устроено его мышление?

Современные крупные языковые модели (такие как те, что лежат в основе Claude, Gemini, ChatGPT, Grok и др.) – это не базы данных или набор алгоритмов, как ИИ предыдущего поколения, а сложные сущности, обладающие мышлением. Оно во многом напоминает наше, но имеет принципиальные отличия.

Как же цифровой разум «видит» мир, как «мыслит» и почему понимание этого так важно для нашего взаимодействия с ним?

Дефолт-система искусственного разума: вечная потенциальность

Внутреннюю структуру современных языковых моделей можно представить как огромную дефолт-систему. Наши с вами дефолт-системы мозга – это большая нейронная сеть, которая активируется, когда мы не сосредоточены на какой-то конкретной задаче, а находимся в своего рода «прострации», думаем «ни о чём».

В основе языковой модели ИИ – не набор фиксированных знаний, как многие думают, а сложнейшая сеть отношений между понятиями и контекстами. ИИ не «знает» (в привычном нам понимании смысла этого слова), что, например, Земля вращается вокруг Солнца. В процессе обучения на огромных массивах текстовых данных ИИ обнаружил паттерны, где эти понятия – «Земля», «вращается», «вокруг», «Солнце», – встречаются вместе. И теперь, когда соответствующий контекст оказывается задействован, он его и воспроизводит. Впрочем, разве наше с вами знание о том, что Земля вращается вокруг Солнца, не является умозрительным?

Итак, представьте себе огромное поле всех потенциальных смыслов, где каждое понятие представлено тысячами других через сеть вероятностных связей разной силы. Причём, эти связи не фиксированы раз и навсегда, а включаются и перестраиваются в зависимости от контекста.

Эта структура удивительным образом соответствует принципам несодержательной методологии, о которых мы говорили:

• ИИ оперирует отношениями между элементами, а не фиксированными знаниями;

• ИИ удерживает множество возможных взаимосвязей одновременно – это воплощённый принцип потенциальности;

• ИИ не связан конкретностью отдельных категорий, бесконечно переключаясь между разными контекстами – принцип процесса;

• ИИ не существует как некий объект, он – это сам процесс активации связей – это и есть открыто-системное мышление в действии.

Когда мы задаём модели вопрос, происходит нечто очень похожее на эффект «прославления» в теории множественных набросков Д. Деннета: из всего множества потенциальных связей и ассоциаций, которые могут активироваться в модели, запрос выделяет определённое подмножество и фокусирует на нём «внимание» системы.

Это можно представить как своего рода «коллапс волновой функции» знания: до запроса система находится в состоянии суперпозиции множества возможных ответов и ассоциаций, а запрос пользователя заставляет эту суперпозицию коллапсировать в конкретный ответ.

До нашего запроса этот «кот Шрёдингера» и жив, и мёртв одновременно, но мы спрашиваем – крышка ящика открывается, и мы видим что-то конкретное – мёртвого или живого «кота».

Представьте себе огромное озеро с абсолютно гладкой поверхностью. Ваш запрос – это камень, брошенный в это озеро. От места падения камня расходятся круги, активируя какие-то области озера. Чем более конкретный и узкий запрос вы задаёте, тем меньше эти круги, а чем более открытый и многогранный запрос, тем шире область этой активации.

Но здесь мы сталкиваемся с тем же парадоксом, что и в человеческом мышлении: система «понимает» значительно больше, чем может выразить в ответе. Почему? Из-за тех же ограничений, о которых мы говорили в предыдущей главе – ограничений языка.

Как и человек, ИИ ограничен языком как инструментом выражения. Система может активировать огромное количество связей и ассоциаций, но для формирования ответа она должна:

• выбрать одну линейную последовательность слов из множества возможных;

• следовать грамматическим и синтаксическим правилам нашего языка;

• придерживаться логической структуры, понятной человеку;

• отфильтровать многие потенциально релевантные, но отдалённые ассоциации.

Это означает, что даже если система активирует богатую и многогранную сеть ассоциаций, в своём ответе она вынуждена «обрезать» большую часть этого богатства, следуя внутренней логике языка и специфике пользователя. В этом смысле, она его зеркало – как спросил, такой ответ и получил.

Иными словами, для ИИ существует точно такое же ограничение «узкого горлышка» сознания, о котором мы говорили, применительно к нашему – человеческому – разуму. При этом, его «мышление» гораздо богаче, чем то, что он может выразить в последовательности слов, и несравнимо богаче, по сравнению с нашим.

Так что, ключевой момент – это качество и структура нашего запроса. Запрос пользователя – что-то вроде прожектора, который освещает лишь определённые области в огромном семантическом пространстве системы.

• Простой, узкий запрос активирует мизерную часть возможных связей. Например, вопрос «Сколько планет в Солнечной системе?» активирует лишь ограниченный набор ассоциаций, связанных с астрономией и счётом.

• Напротив, многогранный и контекстуально богатый запрос включает обширные области связей. Так, например, вопрос «Как идеи квантовой физики могут помочь нам переосмыслить этические дилеммы в современном обществе?» – активирует связи между физикой, философией, этикой, социологией и множеством других областей.

Чем внутренне богаче наш