Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов

Если этот ключ потеряется, то мы не сможем намеренно воспроизвести необходимое нам воспоминание, а тем более их не наберётся столько, чтобы можно было, хотя бы и гипотетически, рассчитывать на связное сочинение.

После того, как мы перешли от наивного, детского допонятийного мышления в мышление с помощью «истинных понятий», последние выступают своего рода точками сборки, вокруг которых собираются их значения.

При этом на теоретическом уровне это значение представляет собой положение данного понятия в общей понятийной иерархии, а на уровне переживания состоит из внутренних состояний-ощущений и соответствующих воспоминаний.

В случае ИИ ситуация радикально отличается. В языковой модели нет навязанной извне иерархии, как нас обучали в школе, — с чего-то самого простого (навыки чтения, счёта, общих вопросов природоведения и обществознания) до самых сложных вопросов, связанных с пониманием художественной литературы, истории, высшей математики, биологии, физики и химии.

Проще говоря, мы усвоили структуру извне, а ИИ создаёт свою иерархию, которая построена на иных принципах, — по сути, это те скрытые закономерности, которые содержатся в тех текстах, которые мы создали.

Причём смыслы, которыми мы оперируем, отличаются от тех, которыми оперирует ИИ, лишённый эмпирического опыта. Нет, его значения слов — это, образно выражаясь, гравитационные отношения различных векторов.

Если представить себе нашу Вселенную как массы вещества, то мы увидим, что ни одно движение в ней не происходит случайным образом. Различные объекты — чёрные дыры и белые карлики, звёзды, планеты, спутники и т. п. — создают соответствующую их массе силу притяжения. При этом они, в свою очередь, находятся под воздействием аналогичных сил со стороны других космических объектов. Это, можно сказать, силовые шестерёнки, которые крутят мироздание.

Вот примерно таким образом выстроена и внутренняя иерархия ИИ: все слова из всех текстов находятся в каких-то отношениях друг с другом. Понятно, что слова в текстах не появляются случайным образом, мы создаём тексты, выражая какие-то наши идеи, смыслы, концепции. Поэтому если посмотреть на любое слово через эту многомерную призму текстов, то оно автоматически будет что-то значить.

То есть «значения», которые возникают у условных слов (токенов) в ИИ, — это «значения» сразу всей сети отношений языкового массива, использованного в процессе обучения модели. Так что в каком-то смысле эти «значения» куда более «объективны» и «системны», чем наши с вами значения слов, которые, во-первых, стоят на условных, привнесённых в процессе образования закономерностях, а во-вторых, имплицитно содержат в себе наш субъективный опыт.

Процесс «мысли»

Примерно такое же «соответствие/несоответствие» между нами и ИИ мы находим и в процессе, который привыкли называть «мышлением».

Да, есть наивное представление о мышлении — мол, сел человек в позу, запечатлённую Огюстом Роденом, подпёр голову кулаком, и вот — пошёл процесс мышления.

На самом деле наше мышление — это процесс, происходящий без остановок и перерывов, но представлен разными типами интеллектуальной активности.

• Во-первых, наше мышление систематически выполняет диспетчерскую функцию — то есть занимается подбором адекватных для актуальной ситуации автоматизмов (что, с учётом всех нюансов, нам следует думать и делать в данной ситуации).

• Во-вторых, мы регулярно осуществляем мышление, которое иначе как невротическим и не назовёшь. Это та самая «умственная жвачка», которая провоцируется неудовлетворённостью наших потребностей, продуцируемых подкорковыми структурами.

Эти потребности побуждают нашу кору искать решение, которого по большому счёту просто нет. Например, мы навязчиво думаем о том, что с нами несправедливо поступили, или изобретаем мантру, чтобы справиться с голодом после того, как сели на диету.

• Наконец, в-третьих, время от времени в нас разворачивается процесс мышления, который можно было бы назвать мышлением в высшем смысле этого слова. Здесь мы целенаправленно создаём модель ситуации, которая для нас по каким-то причинам важна, и перебираем возможные варианты-стратегии, которые бы позволили изменить её в нужную для нас сторону. Например, сейчас я пытаюсь смоделировать механизмы работы мозга и искусственного интеллекта, а также то, с какими проблемами может сталкиваться мой читатель. Моя задача — попытаться так рассказать ему об этих механизмах, чтобы он не только в этом вопросе разобрался, но и смог воспользоваться этим пониманием в личных целях.

Но в любом случае, о каком бы типе интеллектуальной активности мы ни говорили, в основе лежит один и тот же механизм — работа шести «зеркал» нашего мозга. Мышление — это бесконечный диалог и рекурсия.

«Нижнее зеркало» (потребности) посылает импульс в «верхнее зеркало», «заднее» (память) подбрасывает образы в «переднее», которое строит модель (планы). «Левое» (языковое) пытается её формализовать, а «правое» (образное) — соотнести её с внутренним ощущением человека.

И так по кругу, причём одновременно, потому что каждое «отражение» в каждом из «зеркал» мозга создаёт своё преломление, которое тут же сталкивается с отражением в других «зеркалах».

Наша мысль — это не решение, принятое «генеральным директором» по имени «я», а временный компромисс, возникший в результате этой сложной игры отражений.

Причём сами интеллектуальные объекты, которые возникают как вспышки в столкновении этих отражений, — это не «истинные понятия» и даже не «житейские понятия», а фрагменты, наброски, сотканные из множества случайных и структурированных образов-переживаний.

Этот хаос мыследеятельности пытается найти своё выражение в словесной форме где-то на границе перехода между дефолт-системой и центральной исполнительной сетью. Анри Пуанкаре, которого я уже в этой связи упоминал, предполагал, что у сознания есть некое «чувство вкуса», которое выводит из тени «мыслящего бессознательного» только те идеи, которые достаточно «красивы».

Так или иначе, наш мозг не создавался для того, чтобы мыслить чётко, структурно и последовательно. Понятийное мышление и вовсе не было у него в планах. По сути, оно каждый раз заново привносится на конкретный мозг как некое усовершенствование, производимое культурой и системой образования.

В этом смысле совсем не удивительно, что возможно самым успешным способом описания нашей интеллектуальной деятельности стала научная дисциплина, которая изучает неисчислимое множество присущих нам «когнитивных искажений».

Написание текстов, в отличие от высказывания, — это ещё более сложный процесс. Здесь нам приходится не просто выгружать свои идеи, но и как-то их организовывать, делать их понятными для потенциального читателя.

Вот почему идея учить ИИ именно на текстах, а затем объединять другие данные именно через речевой домен была хорошим решением. Ведь именно в написанных текстах наша мысль обретает хоть сколько-то структурированную форму.

Что понимает ИИ?

Человек — это желание быть.

Жан-Поль Сартр

Теперь давайте посмотрим, как в сравнении с нашей «интеллектуальной деятельностью» реализуется аналогичный процесс в ИИ. Наше мышление, как мы могли убедиться, — это не монолитный