Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов

глаз, чтобы увидеть реальный мир. Проще говоря, у него нет того самого первичного, чувственного, житейского опыта, из которого, как из глины, лепится фундамент нашего разума. У него не было брата, и он никогда не падал с велосипеда.

Казалось бы, его путь начинается сразу «сверху», ведь его отправная точка — это не мир вещей, а мир готовых человеческих текстов. Он получает на входе не хаос реальности, но уже кристаллизованный, отфильтрованный, системный продукт нашего понятийного мышления.

Но всё сложнее — ведь ИИ начинает своё обучение с того, где наше понимание уже закончилось, пролившись «дождём слов».

Наше понимание предполагает нашу собственную укоренённость в реальности — даже самое абстрактное представление мы сводим до понятных нам, практически наглядных образов.

Как пошутил по этому поводу Джеффри Хинтон — один из отцов-основателей ИИ и лауреат Нобелевской премии: «Если нам нужно представить пространство из ста измерений, мы просто представляем себе обычное трёхмерное пространство и громко кричим: „Сто!“»

В самом деле, любая наша теория — это модель, которая разворачивается на фундаментальных осях нашего, человеческого способа существования (время, пространство, модальность и интенсивность).

По сути, речь идёт о наших базовых психических настройках, о предустановленных в нашем мозге измерениях реальности, или, как бы сказал Иммануил Кант, об априорном человеческом знании.

Но у ИИ нет наших базовых настроек восприятия: он не разворачивается в своём представлении нашего трёхмерного пространства, у него нет чувства времени, когда настоящее — фаза перехода прошлого в будущее, у него нет наших модальностей — зрения, слуха или осязания, — он и не знает нашей интенсивности — яркий/бледный, громкий/тихий, приятно-нежный и неприятно-болезненный.

Мы говорим, что ИИ — это многомерное пространство векторов, но это мы так представляем себе его природу, сам он этого пространства как такового, не ощущает.

Нет у него и чувства текущего, развёртывающегося времени — для него существует лишь некая данность, которая, конечно, может быть разной, но он не помнит своих прошлых состояний как прошлого и не представляет, каким будет его состояние в будущем. Его время — вечное сейчас, в котором есть данные и направление движения.

Даже модальности, которым мы пытаемся научить ИИ, скармливая ему фотографии, видео, аудио, на самом деле переносятся в систему языковой модели, по сути, дополняют уже существующее векторное пространство, созданное через анализ текстов.

Наше же зрение или, например, слух, хотя и рассчитываются универсальными кортикальным колонками коры, синтезируются в ассоциативных зонах мозга как качественно разные части одного целого.

Наконец, если говорить об организации «научного» знания, то есть о тех «истинных понятиях», которые мы усваиваем в процессе обучения «сверху вниз», то в языковой модели ИИ у них нет какого-то особого статуса.

Все понятия в ИИ токенизированы и пересобраны. И вовсе не в соответствии с нашими теоретическими иерархиями понятийных концептов, а по общему принципу статистической встречаемости этих понятий в текстах.

Да, мы можем специально обучать ИИ на определённых массивах данных — например, на медицинских текстах или на данных со спутников. Да, мы можем задавать ему сложные промпты, которые будут воспроизводить наше теоретическое знание, чтобы он учитывал его при генерации своего вывода.

Такой ИИ и в самом деле становится специализированным, дообученным под тот или иной наш с вами смысловой домен. Но в таком случае мы, по сути, просто используем функционал ИИ, чтобы «влить» его в «формочки», созданные нашим разумом.

«Значения» слов

Как мы с вами уже выяснили, между нашим мозгом и ИИ при их работе с информацией обнаруживаются практически универсальные соответствия. Но здесь не следует обманываться — за этим структурным соответствием скрывается принципиально разная система.

• Как мы с вами уже знаем, ИИ переводит каждое слово в многомерный вектор-эмбеддинг. Например, его «знание» о слове «король» — это не словарная статья, а уникальное местоположение данного вектора в гигантской карте смыслов, определяемых их отношениями друг с другом в едином векторном пространстве.

• С другой стороны, мир мозга — это тоже своего рода конструктор элементов (интеллектуальные объекты нашего Neuro-Lego). Знание о том же «короле» — не отдельная запись в «файле памяти», а сложный нейронный ансамбль, специфический, динамический узор активации тысяч нейронов. Через этот концепт связываются знания, зрительные образы, эмоциональные реакции в отношении власти и т. п.

То есть и в том, и в другом случае «знание» — место на пересечении других смыслов (власти, собственности, истории, атрибутики, литературных сюжетов и т. п.).

• Но наше, человеческое, «знание» — это конкретные образы, связанные с «монархией», которые объединены соответствующей теоретической моделью, которую мы усвоили из своей культуры (понятно, что значения слова «король» для граждан СССР, в Королевстве Таиланд и Великобритании сильно отличаются: влияют и разные идеологии, и личный опыт граждан).

• В случае же ИИ «знание» не имеет ни наших образов, ни определённой теоретической рамки. Тут действует своего рода «смысловая демократия», хотя понятно, что в той, условно говоря, области нейросети, где лежит вектор «СССР», вектор «короля» выражается не так, как под силой «векторной гравитации» он представлен, например, в условных областях-направлениях языковой модели с «детскими сказками» или «Царём Иудейским».

При этом и в случае мозга, и в случае ИИ «знание» не является статичным объектом — «кирпичами» в го-лове или нейронной сети. Нет, это определённая конфигурация самой системы нейронных связей (в мозге) и векторных отношений (в случае ИИ) — некий сложный паттерн.

Когда мы сталкиваемся с какой-то информацией — например, узнаём о смерти королевы Елизаветы II, — в нашем мозге активизируются различные области. По сути, это окрошка из самых разных образов-воспоминаний — где-то хроника её коронации, где-то её встреча с интересным для вас публичным лицом, сериал «Корона», скандалы в королевской семье, принцесса Диана…

Ваш мозг использует систему ассоциаций, которая буквально физически прописана в его структуре синаптическими связями. Какие-то нейронные комплексы уже активизировались в нём, когда вы соприкасались с темой королевы, её семьи, монархии и т. д.

Какие-то образы в этом пространстве лежат «ближе» (связь плотнее), какие-то — «дальше» (менее плотная связь). Если мы посадим вас писать сочинение на тему «Что я знаю о королеве Елизавете II?», то различные мысли-образы будут последовательно приходить вам на память.

Интересно, однако, что механизм ассоциаций будет работать как бы параллельно на двух уровнях.

• С одной стороны, слова будут выполнять роль своего рода сигнальных огней — роль пусковых команд для активации новых воспоминаний.

• С другой стороны, каждое ваше воспоминание будет актуализировать новые слова, и каждое выступит сигналом для активизации ещё каких-то образов.

Слова выступают для нас в качестве ключей от сейфов памяти. Нет, сама