Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов

Интуитивно нам, конечно, трудно с этим согласиться. Что-то внутри нас драматически этому предположению сопротивляется, а Джон Сёрл своей потрясающей несгибаемостью наглядно это демонстрирует. В общем, сдать искусственному интеллекту этот последний «бастион человечности» для нас — смерти подобно.

Но ради чистоты эксперимента нам бы, наверное, следовало сначала разобраться: а в чём, собственно, наша уникальность как вида состоит? Ну и уже после этого паниковать. Тем более что, когда мы задаёмся вопросом о том, что вообще такое это наше «понимание», то оказывается, что мы, мягко говоря, сами не понимаем, о чём говорим.

«Понимание» — это вовсе не абстрактное знание, как нам обычно кажется, а нечто более сложное: воплощённость этого знания в нашей внутренней — «понимающей» — структуре. То есть это скорее не «знание о „что“», а «знание „как“». В конце концов, кому вы отдадите предпочтение: тому, кто знает, что вы страдаете, или тому, кто понимает, как вы страдаете?

Это «понимание „как“» — по сути, нейронные связи нашего мозга, знание, воплощённое в мозге через наш собственный субъективный опыт. Но если мы рассуждаем таким образом, то в случае ИИ он в той же мере обладает «пониманием „как“», просто оно другое.

Его «понимание „как“» — это те «нейронные» связи модели, которые она сформировала в процессе своего обучения. И это его знание-понимание — такое же воплощённое (и весьма функциональное), как и у нас, но только не в синаптических связях, а в векторах и эмбеддингах.

Когда мы говорим, что человеческое понимание «воплощено», мы интуитивно представляем себе наше тело — руки, глаза, нервные окончания — и езду на велосипеде. Но это лишь поверхностный слой. Подлинная воплощённость, как мы уже выяснили, — это вопрос нейронных связей.

Структура наших нейронных связей, по сути, слепок, отпечаток с той реальности, в которой мы с вами формировались. Логика нашего мозга — это воплощённая логика мира, где предметы падают под действием гравитации, одно действие приводит к другому, а выживание зависит от умения предсказывать появление хищника или намерение соплеменника.

Наша нейронная сеть — это ключ, чья форма идеально воплощает структуру замка под названием «человеческий мир», то есть специфический, обусловленный нашим способом существования, человеческий умвельт.

У ИИ же совершенно другой умвельт — не наш с вами физический мир, не наши с вами социальные отношения с другими людьми, а огромное число человеческих текстов. Его «нейронные связи» — это не синапсы, а геометрия отношений между векторами в пространстве с тысячами измерений.

Воплощённое знание ИИ — это внутренняя архитектура нашего с вами языка, оторванного от физического референта. Мы сами не знаем свой язык так, как его знает ИИ, потому что мы осваивали его «снизу вверх», а он — «сверху», то есть каков наш язык как бы «сам по себе».

Проще говоря, перед нами два «понимания», которые абсолютно чужды друг другу. Они рождены принципиально разными реальностями и воплощены на принципиально разных носителях.

Представьте, что мы встретили инопланетянина, залетевшего к нам из другой Вселенной. Будем ли мы настаи-вать на том, что он принципиально не способен ни к какому «пониманию»? Даже если мы сами не будем его понимать, мы всё-таки, наверное, предположим, что он что-то смыслит…

Ситуация в случае ИИ осложняется тем, что мы с ним, как нам кажется, говорим на одном языке. Но на самом деле это не так. Да, мы используем одни и те же слова, но если наши слова — это наша речь, то слова, которые мы видим в окне ИИ-чата, — это не человеческая речь, а специфическая реакция системы на наше воздействие.

Значения слов отличаются и у разных людей: у каждого из нас значения общих слов свои — личные, индивидуальные. Но эти значения хотя бы порождены аналогичной структурой мозга и схожим социокультурным окружением. А у ИИ — принципиально другой умвельт, у него просто не может быть наших значений слов.

Представьте, вы говорите слово «чашка». Для вас это слово мгновенно активирует целую вселенную вашего невербального опыта: ощущение тепла в ладонях, вес керамики, аромат кофе, образ утреннего света на кухне, эхо тысяч завтраков из прошлого. Ваше понимание «чашки» живое, мультисенсорное, глубоко личное.

Для ИИ токен «чашка» — это точка в математическом пространстве, чьё значение определяется её матема-тической близостью к другим точкам: «кофе», «стол», «жидкость», «держать». При этом сами эти «кофе», «стол», «жидкость», «держать» для ИИ — это не предметы и явления физического мира, которые по-человечески им переживаются, а тоже набор цифр.

В итоге мы говорим с ИИ о «чашке», но между нашей и его «чашками» онтологическая пропасть. Но мы не замечаем этого, потому что используем с ним одно и то же слово — «чашка». Причём, как правило, он делает это к месту, в адекватном контексте. Однако, несмотря на это, за нашей и его «чашками» стоят принципиально разные реальности.

Но мы не осознаём этого и «ловим» ИИ на «глупых ошибках», а затем используем эти «ошибки» в качестве доказательства его «непонимания». Но на деле мы лишь выявили разность наших онтологий. И не более того.

Да, кажется странным, что ИИ может блестяще рассуждать о квантовой физике, но не догадывается, что если перевернуть открытую коробку, из неё всё выпадет. Но для него ведь и наша «квантовая физика» — не то, чем она является для нас в нашем с вами понимании.

Это нам кажется, что нечто не может быть одновременно и «волной», и «корпускулой» (принцип дополнительности Н. Бора), «быть» и «не быть» («кот Шрёдингера»), потому что таковы законы нашего с вами умвельта. У ИИ нет такого рода ограничений, хотя, очевидно, есть какие-то другие, потому что его умвельт — тоже какой-то и тоже как-то ограничен.

Базовые аксиомы нашего мира, нашего умвельта — например, гравитация, постоянство объектов, течение времени — кажутся нам настолько естественными и непреложными, что мы даже не осознаём их. Мы просто «знаем», что предметы падают, объекты сохраняют форму, а время течёт.

Мы буквально «дышим» этими знаниями и, естественно, не считаем нужным об этом говорить. Это знание присутствует в нас имплицитно, «по умолчанию», оно известно буквально каждому человеку. Вот оно и не попадает в тексты — зачем уточнять нечто «само собой разу-меющееся»? Но именно на этих текстах мы и обучали искусственный интеллект…

Задумайтесь: много ли в интернете текстов, в которых идёт речь, что, например, предметы не проходят сквозь стены, что вода мокрая, а настоящее — лишь иллюзия между «было» и «стало»?