Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов

Однако мы могли убедиться, что ИИ, оперируя лишь математикой отношений, построил свою собственную, нечеловеческую геометрию смысла. ИИ использует вычисленный «смысл» — холодный, безличный, структурный. Но всё же это именно он, пусть и взятый в кавычки.

Во-вторых, мы увидели, что «разум» — это не сущность, а процесс (возможно, даже побочный эффект).

Мы искали «призрак в машине», но не нашли ничего, кроме грандиозной механики. Осмысленный ответ рождается не из единого центра «я», а из гула безличных вычислений, из рекурсивного диалога безличных частей. В каком-то смысле это очень напоминает нас самих, поскольку и наше хвалёное «я» — лишь постфактум рассказанный миф.

В-третьих, стало понятно, что на фоне ИИ наши индивидуальные знания и опыт чрезвычайно ограничены.

Наше понимание любого термина или слова соткано из случайных, по существу, нитей памяти о реальных жизненных ситуациях. Тогда как «понимание» ИИ, пусть и статистическое, «вытекает» из продуктов всей человеческой цивилизации.

Тут, естественно, возникает неудобный вопрос: чьё «понимание» на самом деле шире и, не исключено, объективнее? Наше, обусловленное ограниченным образованием, искажённое личными травмами и капризами настроения, или знание ИИ, выведенное из коллективного бессознательного миллионов текстов?

И наконец, в-четвёртых, мы обнаружили, что текстовые ответы ИИ содержат «понимание», которое мы не в силах понять.

ИИ работает не со словами, а с весами, тогда как формулирует свой ответ в словах. То есть мы не общаемся с самой моделью, а скорее с языковой тенью, которую она отбрасывает в ответ на наш запрос.

Но разве не то же самое происходит между людьми? В самом деле, чтобы нас понять, надо быть нами, и потому каждое «сознание» — будь то биологическое или цифровое — это наглухо закрытая изнутри комната. Слова же — лишь условные сигналы, которые мы просовываем под дверь, надеясь, что по ту сторону их расшифруют правильно.

ИИ не создавал этой проблемы, он лишь высветил её с безжалостной ясностью. Да и в целом, изучая эту грандиозную систему, мы, по сути, посмотрелись в «чёрное зеркало»…

Если всё, что мы приписывали исключительно человеку — язык, смысл, логику, — потенциально возможно воспроизвести через геометрию, диалог и масштаб, то что же тогда остаётся у нас? Что же такое наше мышление и понимание на самом деле?

Что если ответ скрывается не в архитектуре, а в том самом «умвельте» — в той реальности, в которой эта архитектура существует? Тогда нам следует на время забыть о холодной логике кремния и обратиться к тёплой, хаотичной и парадоксальной материи нашего собственного мозга.

Глава пятая

Как «думает» мозг?

Настоящее путешествие к открытию состоит не в том, чтобы искать новые пейзажи, а в том, чтобы обрести новый взгляд.

Марсель Пруст

Тут, вероятно, нужен какой-то дисклеймер… Дело в том, что в своё время я написал книгу «Машина мышления», в которой подробно рассказал об устройстве нашего разума[98]. Само её название недвусмысленно намекает на то, что наш с вами разум тоже в каком-то смысле машинный. Да, на биологической основе, но это не меняет сути дела.

Но давайте сейчас вместе в этом убедимся: заглянем в механизмы работы нашего собственного мозга и попытаемся найти там то, что мы гордо именуем «пониманием» и «мышлением». И начнём не с учебников по нейробиологии, а с нашего собственного, непосредственного опыта — с феноменологии нашего с вами мышления.

Откуда приходит мысль?

Мысль приходит, когда «она» хочет, а не когда «я» хочу.

Фридрих Ницше

Давайте попробуем понять, как мы ощущаем в себе движение мысли…

Мы редко говорим: «Сейчас я буду конструировать мысль, исходя из своего понимания». И даже если мы так скажем, то после этого мы не станем выписывать какие-то свои понимания, чтобы затем сложить их в новую мысль. Нет, мы занырнём куда-то «внутрь своей головы» и начнём мысленно перебирать какие-то образы, представления, идеи, примеры и т. п.

Страдательный залог

Впрочем, чаще всего происходит вообще по-другому — неслучайно для обозначения своего мышления мы используем формулировки в страдательном залоге.

• «Мне пришла в голову мысль…» — говорим мы, словно бы мысль была где-то вовне и просто решила зайти к нам в гости, навестить.

• «Меня осенило!» — знаменитая «эврика» или «ага-эффект». Словно мы блуждали в потёмках, а свет мысли пронзил нас «свыше».

• «Знаешь, до меня только что дошло…» — тоже характерная конструкция, которая буквально утверждает, что мысль нас догнала. Где-то ходила-бродила, а затем настигла нас.

Есть, впрочем, и примеры обратной направленности.

• «Я не могу выбросить эту мысль из головы» — словно бы речь идёт о каком-то живом существе, которое захватило наше ментальное пространство.

• «Ложка нашлась, а осадок остался», — говорим мы, демонстрируя свою неспособность убрать мысль, если она встряла нам в голову.

• Наконец, знаменитый дзен-коан с предложением «не думать о розовом слоне»: мы намеренно стараемся о чём-то не думать, а оно думается в нас само собой.

Что бы это могло значить? Если мы мыслим осознанно, от своего «я», то почему находимся в таком зависимом, подчинённом положении к тому, что происходит в нашем пространстве мыслей?

Сам наш язык, укоренённые в нём словоформы, по сути, изобличают тот факт, что мы не столько авторы своих мыслей, сколько их свидетели или даже реципиенты. То есть мышление — это процесс, который происходит скорее с нами, чем нами создаётся.

Думаю, что каждый может в этом убедиться на собственном опыте: да, вы думаете о чём-то, но мысли приходят к вам откуда-то.

Представим, что вы бьётесь над какой-то сложной задачей — прикидываете и так и сяк, перебираете варианты, а потом просто отбрасываете её и переключаетесь на что-то другое. Например, идёте гулять с собакой, принимаете душ или, предположим, засыпаете.

Затем, именно в момент, когда вы меньше всего этого ожидаете, решение вдруг вспыхивает в сознании — ясное и цельное. То есть вы озадачили свой мозг, и затем, когда ваше сознание переключилось на что-то другое, он нашёл ответ. «Сварил», как говорят в таких случаях, «мысль».

Мышление под капотом

Великий математик Анри Пуанкаре педантично описал феномен «бессознательного мышления» в своей работе «Математическое творчество»[99]. В частности, он рассказывает, как несколько дней он настойчиво бился над решением сложной математической задачи, но решение «пришло» спонтанно, когда он меньше всего думал о ней — буквально в момент, когда он заносил ногу на ступеньку омнибуса