Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов

Но именно в этом и скрыта опасность. Главный риск — подмена аргументации эмоционально заряженной метафорой или моделью, которая не схватывает ситуацию такой, какой она на самом деле является. Насос работает не через строгую логику, а через ассоциации и образы, которые вызывают у нас ощущение «самоочевидности».

В результате важные допущения могут остаться незамеченными, а альтернативные точки зрения — за рамками такой «чудной истории». При этом, попав под воздействие подобного «нарратива» (насоса), мы становимся заложниками туннельного видения — начинаем воспринимать проблему через созданную им рамку и игнорируем другие возможные описания.

В руках манипулятора это превращается в инструмент навязывания позиции под видом прояснения. Поэтому работа с интуитивными насосами требует двойной осторожности. Важно распознавать, когда вас «накачивают» и к какому выводу вас пытаются склонить. А затем разбирать механизм — пытаться понять, что включено в сценарий, а что из него исключено, и сопоставлять альтернативы. Если насос можно построить и в прямо противоположную сторону, то очевидно, что это просто уловка.

Второе элегантное изобретение Дэниела Деннета уже касается существа дела и получило название «картезианский театр». Мы интуитивно представляем себе сознание как некий кинотеатр в голове. На экране (в нашем восприятии) показывают фильм о внешнем мире, а в зри-тельном зале сидит некий «я» — маленький человечек, гомункулус, — который этот фильм смотрит и «понимает»[76].

Именно роль этого гомункулуса и играет несчастный человек в «Китайской комнате». Но «картезианский театр» — лишь иллюзия. Никакого центрального «зрителя» (или «понимателя») в мозге нет.

Так что модель с «человечком в голове» лишь отодвигает проблему на шаг назад: хорошо, допустим, что гомункулус (наше «я») сидит у нас в голове и всё понимает, а что или кто понимает в нём самом? В нём сидит другой гомункулус — поменьше? А потом совсем маленький? Нет, это путь в дурную бесконечность.

Причём современная нейронаука, по сути, провела этот эксперимент в реальности. Учёные десятилетиями искали в мозге этот гипотетический «центральный пульт» управления, этот зрительный зал «картезианского театра»… и не нашли ничего, что хотя бы отдалённо могло претендовать на эту роль.

Наш мозг — это децентрализованная, параллельная система, где множество процессов («множество набросков», как говорит Дэниел Деннет) конкурируют друг с другом за ресурсы. В некотором смысле это муравейник, где каждый нейрон выполняет свою роль, в результате возникает потрясающий синергетический эффект. Но как в муравейнике, так и в нашем мозге нет никакого финального «босса», который руководит процессом и «понимает» всё за всех[77].

Таким образом, всё здесь сошлось в одной точке: мы сами и есть «Китайская комната» Джона Сёрля, но только биологическая, невероятно сложная и хорошо «заземлённая» в реальности. И если мы что-то понимаем, то и она — тоже.

Итоги первой части

Мы — это наше понимание. Лиши нас его, и мы ощутим, что потеряли сами себя, точнее мы сами потеряемся.

Но что такое это наше «понимание» — мы, если попытаться разобраться, не знаем. По крайней мере, мы не можем его высказать, а тем более — кому-то передать. Оно словно бы умирает в словах, всегда оставаясь только нашим.

Наше знание от нас неотделимо, словно бы оно и есть мы. Все связи между нейронами нашего мозга и есть это наше «понимание». То есть всякое наше понимание — это всегда знание, воплощённое в нейронной структуре нашего мозга.

Да, мы по наивности приписываем понимание «самим себе» — как «субъектам опыта», как «разумным существам». Но кто эти «субъекты»? Это точно такие же понимания — ведь когда-то мы осознали себя в качестве субъектов, а когда-то обнаружили, что мыслим и обладаем разумом.

По большому счёту, то, что мы думаем о себе, полагая себя «личностью», «бессмертной душой», «познающим субъектом», — это лишь удобные фикции, своего рода психологические химеры. Они полезны для решения задач в социальном мире и управлении собственным поведением. Но это в любом случае это лишь удобные фикции.

Мы видим, что разумом обладают и другие живые существа. Нам трудно это признать, потому что другие разумы находятся внутри своих «пузырей понимания» — в своих умвельтах, мирах, к которым они приспособлены своей воплощённостью. Именно поэтому мы не можем увидеть мир их глазами, их разумами, а сама их нервная система создаёт совершенно другой, не человеческий образ мира.

Единство логики внутреннего устройства нервной системы у представителей разных биологических видов не оставляет в этом никаких сомнений. Фактическое (а не абстрактное, понятийное) знание, внутреннее понимание — это воплощённое знание, знание во плоти нервной системы. Это те связи, которые нервная система создаёт в соответствующем умвельте.

Сейчас же мы оказались перед лицом радикально нового феномена — мы, по сути, воспроизвели логику работы нервной системы на железе. Конечно, компьютер — не нервная система, но мы использовали принципы работы нервной системы в качестве алгоритма для её обучения.

До тех пор, пока это было лишь теорией, научной фантастикой, в жизнеспособности такого подхода можно было сомневаться. Но теперь это факт, и естественным образом возникает вопрос — является ли, раз это так, машина (искусственный интеллект) «разумной»? Есть ли в ней «понимание»?

С человеческой точки зрения — нет. Точнее, у машины нет нашего понимания. То, что она говорит с нами «на одном языке» и часто демонстрирует «непонимание», вводит нас в заблуждение. Потому что её «понимание» не в том, как она отвечает на наши обращения, а в тех внутренних связях, которые её и образуют.

Проще говоря, у искусственного интеллекта своё «воплощённое знание». У нас — нейроны, объединённые в сети и ансамбли, у него — «векторы», «эмбеддинги», «головы внимания», «архитектуры».

При этом у искусственного интеллекта свой умвельт — свой мир, который нам не понять. Наш язык «привязан» к реальности нашего умвельта, язык, в котором был выращен искусственный интеллект, — это наш язык, «оторванный» от этого умвельта.

Искусственный интеллект не видит наш мир (умвельт человека), у него свой мир (умвельт ИИ), который возник за счёт переработки несчётного количества текстов и обнаружения в них даже не связей между «словами», а связей между токенами. Он не понимает наш язык, он им «живёт».

Токены для искусственного интеллекта — это минимальная единица данных: для текста — слово, часть слова, символ или, например, эмодзи, а для изображений — фрагмент картинки (пиксели или патчи), для аудио — отрезок звуковой волны