Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов

Перед началом сессии каждого из «перкуссионистов» спрашивали, сколько, на их взгляд, мелодий угадают их визави. Те уверенно ответили, что примерно половину, ведь это совсем «очевидные» песни — каждая на слуху! Но результат показал, что из 120 мелодий было угадано только три (что можно считать случайным совпадением).

Почему так? Потому что, когда вы выстукиваете ритм «Happy Birthday», у вас в голове играет вся песня — мелодия, слова, вплоть до аранжировки. А ваш напарник слышит только… тук-тук-тук по столу. Это и есть «проклятие знания»: если вы знаете что-то на уровне субъективного переживания, вам трудно представить, что кто-то может этого не знать.

Причём, как показали уже другие исследования, чем лучше человек что-то знает, тем он сильнее уверен в осведомлённости других. Причём не помогает даже объяснение феномена «проклятие знания» — эффект сохраняется[50]. Да, если какое-то знание стало частью нас, мы просто не можем вообразить, как этим знанием можно не обладать.

Наши примеры с арифметическим счётом, чтением и любым действием (велосипед — это ведь только пример, мы точно так же «знаем», как ходить, сидеть и поворачиваться с боку на бок в положении лёжа) — всё это как раз то самое «проклятие знания». Мы не понимаем: что тут может быть непонятного?

Но посмотрите на младенца — он точно не знает ни счёта, ни чтения, он-то и передвигается с трудом. А когда-то мы все были детьми, так что и у нас этого знания не было. Но после того, как оно у нас возникло, мы уже не можем вспомнить, как мы этого не знали.

То есть гипотетически вы, конечно, можете представить — мол, да, раньше я не умел ни читать, ни писать, ни даже ходить (примерно до года с момента рождения). Но представить и вспомнить, каково это… Мы не можем.

По той же причине мы раздражаемся, когда другой человек не может понять «очевидных», на наш взгляд, вещей. Допустим, мы планируем поездку или покупку — делаем внутри головы массу сложных расчётов, но ведь кто-то ничего этого не учитывает. Понятно, что мы смотрим на него, как на клинического идиота: мол, тут же столько всего нужно предусмотреть — как ты не понимаешь?!

Но если всё так «очевидно» — давайте возьмём и объясним… И тут, понятное дело, случается коллапс. То, что нам казалось «таким очевидным», требует трёхчасовой лекции, да и она вряд ли приведёт к желаемому результату. То есть мы как бы и знаем, и показать можем, но «знаем» словно бы изнутри, на уровне чувства, ощущения, «внутреннего понимания».

Как говорит по этому поводу Стивен Пинкер: «проклятие знания» — это «главный виновник непонятного письма»[51]. И думаю, что вам приходилось сталкиваться с текстами, которые, если разбирать их по словам, вроде бы и понятны, но при этом уловить мысль автора невозможно (не исключаю, что это касается и моего текста, но поверьте, я делаю всё, что в моих силах).

Да, автору просто не приходит в голову, что его читатель может не знать всего того, что крутится — причём уже на подсознательном уровне — у него в голове. Его мозг уже столько раз прокручивал эти идеи, укоренённые, к тому же, в его личном опыте, что это «понимание» буквально записалось в нейронных связях. Мы же со своими нейронными связями разотождествиться никак не можем.

Но критиковать художника всякий умеет… А потому оглянемся на самих себя — мы все с вами такие «авторы»: постоянно сообщаем окружающему миру о своих знаниях и пониманиях, но фактически лишь говорим что-то «по теме», говорим «о», а не «это самое».

Мы физически не можем высказать свои понимания, потому что мы и есть — они, наши собственные понимания (то есть нейронные связи нашего мозга, в которых наше знание и заключено). Это как с глазом, который может увидеть всё что угодно, но только не самого себя.

Нам обычно кажется, что проблема в других — они нас не понимают. Но проблема в том, что, чтобы нас понять, надо быть нами — нашим мозгом, этими его нейронными связями. В лучшем случае другой человек поймёт что-то своё — своими мозгами, своими нервными связями.

Немаловажно, впрочем, и то, что эти связи благодаря пресловутой нейропластичности постоянно меняются и перестраиваются. То есть в процессе самого высказывания своего понимания мы влияем на то, как мы что-то понимаем. Неслучайно лучший способ разобраться в сложном вопросе — это объяснить его кому-то другому.

Проблема в том, что объяснить-то как раз и не получится, но твои собственные нейронные связи, пока ты объясняешь, начнут перестраиваться, и да — у тебя появится новое «понимание». Но ты опять-таки не сможешь его выявить, а самое интересное, что благодаря когнитивному искажению «проклятие знания» скоро ты даже не будешь знать, что когда-то у тебя этого понимания не было.

Итого

Мы начали с самых простых вещей — математика, чтение, езда на велосипеде. Казалось бы, именно здесь мы твёрдо стоим на ногах: я точно знаю, что такое «понимать». Однако, как выясняется, наше «понимание» вовсе не совпадает с тем, что мы о нём думаем.

Зачастую мы даже действуем правильно, но вот объяснить, в чём, собственно, это наше знание состоит, мы не можем.

• Мы способны осуществить разные математические операции, но не понимаем, как именно мы это делаем.

• Мы читаем текст и не знаем, как наш мозг производит смысл из чернильных пятен.

• Мы держим равновесие на велосипеде, но любое объяснение нашего воплощённого знания оказывается грубой карикатурой на то, что реально делает наше тело.

Получается, что наше подлинное понимание живёт не в словах, не в объяснениях и не в теориях, а в самой ткани нашей нервной системы — в автоматизмах, в телесных схемах, в миллиардах связей, которые мы даже не замечаем.

И ведь именно об этом нам пытались сказать когнитивисты и нейробиологи! То, что мы называем «пониманием», — это лишь грубая оболочка, поверхностное представление о том, что реально делает и понимает наш мозг.

Так что, судя по всему, именно в этом скрытом измерении — в «понимании без понимания» — лежит ключ к следующему шагу. Ведь если наше собственное понимание так устроено, то, может быть, оно не столь уж отличается от того, что мы называем «пониманием» искусственного интеллекта?