Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Это делает наш случай более интересным, чем, скажем, случай с пятью целочисленными переменными, которые либо все чётные, либо все нечётные, но в остальном не коррелируют между собой. В таком случае знание любой одной из переменных экранировало бы всё то, что знание второй переменной могло бы поведать нам о третьей.

Но здесь мы имеем зависимости, которые не исчезают, как только мы узнаём значение всего одной переменной, как показывает пример с Голой Нелли. Так неужели перед нами неуправляемое затруднение для логического вывода?

Не бойтесь! Ведь может существовать некоторая шестая переменная Z, знание которой действительно экранировало бы все пары переменных друг от друга. Может существовать некая переменная Z — даже если нам придётся её сконструировать, а не наблюдать напрямую, — такая, что:

P(U|V,W,X,Y,Z) = P(U|Z)

P(V|U,W,X,Y,Z) = P(V|Z)

P(W|U,V,X,Y,Z) = P(W|Z)

…

Возможно, при условии, что некий объект является «человеком», вероятности того, что он говорит, носит одежду и имеет стандартное количество пальцев, взаимно независимы. У Фреда может не хватать пальца, но вероятность того, что он окажется нудистом, у него не больше, чем у любого другого человека; Голая Нелли никогда не носит одежды, но знание этого не делает её способность говорить менее вероятной; а младенец Барни пока не разговаривает, но все конечности у него на месте.

Это называется «наивным байесовским» методом, поскольку обычно это предположение не совсем верно, но если притвориться, будто оно верно, это может чертовски упростить ваши вычисления. Мы не отслеживаем отдельно влияние наличия одежды на способность говорить при заданном количестве пальцев. Мы просто используем всю наблюдаемую информацию для отслеживания вероятности того, что эта штуковина является человеком (или кем-то ещё, например, шимпанзе или роботом), а затем используем наши убеждения о центральном классе, чтобы предсказать всё, чего мы ещё не видели, например, уязвимость к яду болиголова.

Любые наблюдения за U, V, W, X и Y просто выступают в качестве свидетельств в пользу центральной классовой переменной Z, а затем мы используем апостериорное распределение Z, чтобы сделать любые необходимые предсказания о ненаблюдаемых переменных среди U, V, W, X и Y.

Звучит знакомо? Так и должно быть; см. рис. 177.1.

Рисунок 177.1: Сеть 2

На самом деле, если использовать правильный тип элементов нейросети, эта «нейронная сеть» в итоге окажется точно, математически эквивалентна наивному байесовскому методу. Центральному элементу необходим лишь логистический порог — S-образная кривая отклика, — а веса входов должны соответствовать логарифмам отношений правдоподобия и так далее. По сути, можно с уверенностью предположить, что в этом кроется одна из причин, почему логистический отклик часто так хорошо работает в нейросетях: он позволяет алгоритму тайком протащить немного байесовских рассуждений, пока разработчики не видят.

Если кто-то предлагает вам алгоритм под названием «нейросеть», сплошь обвешанный модными словечками вроде «непричёсанный» и «эмерджентный», и с гордостью заявляет, что понятия не имеет, как работает обученная сеть, — не думайте, будто их маленький ИИ-алгоритм и в самом деле находится За Пределами Логики. Ведь эта парадигма ad hoc решений, если она работает, обязательно будет иметь байесовскую структуру; она может даже оказаться абсолютно эквивалентной какому-нибудь алгоритму из класса «байесовских».

Даже если внешне она вовсе не выглядит байесовской.

И тогда вы точно знаете, что байесианцы тут же примутся в подробностях объяснять, как именно устроен этот алгоритм, какие базовые допущения он отражает, какие закономерности окружающего мира эксплуатирует, где он работает, а где даёт сбой, и даже наделять понятным смыслом обученные веса сети.

Разочаровывает, не правда ли?

*

178. Слова как рукоятки мысленных кистей. Представьте, я говорю вам: «Странное дело: в светильниках этого отеля стоят треугольные лампочки».

Возможно, вы представили это себе, а возможно, и нет — если вы еще этого не сделали, сделайте прямо сейчас. Как выглядит «треугольная лампочка» перед вашим мысленным взором?

Перед вашим мысленным взором у стекла были острые грани или сглаженные?

Когда фраза «треугольная лампочка» впервые пришла мне в голову (нет, в отеле их на самом деле нет), то, насколько позволяла судить моя интроспекция, сначала я увидел пирамидальную лампочку с острыми гранями, затем (почти сразу же) эти грани сгладились, а после мой разум в качестве альтернативы сгенерировал изогнутую люминесцентную трубку в форме плавного треугольника.

Насколько я могу судить, здесь не было задействовано никаких рассудочных или вербальных мыслей — просто бессловесное рефлекторное отпрядывание от воображаемой картины острого стекла; эта дизайнерская задача была решена еще до того, как я вообще успел подумать словами.

Хотите верьте, хотите нет, но на протяжении нескольких десятилетий велся серьезный спор о том, действительно ли в сознании людей возникают ментальные образы — реальная картинка стула где-то внутри — или же люди просто наивно думали, будто у них есть ментальные образы (введенные в заблуждение «интроспекцией», этим ужасным запретным занятием), в то время как в их мозгу просто был активен маленький ярлычок «стул», подобный токену в LISP.

Я изо всех сил стараюсь не говорить ничего вроде «Какая поразительная глупость», ведь всегда нужно учитывать эффект послезнания, и все же: какая поразительная глупость.

Эта академическая парадигма, как мне кажется, была главным образом безумным наследием бихевиоризма, который отрицал существование мыслей у людей и стремился объяснить все человеческие феномены, включая речь, как «рефлексы». Бихевиоризм, вероятно, заслуживает отдельного разбора в будущем, поскольку он был извращением рационализма; но этот текст не о нем.

«Вы называете это "глупостью", — спросите вы, — но откуда вы знаете, что ваш мозг репрезентирует визуальные образы? Неужели только потому, что можете закрыть глаза и увидеть их?»

На этот вопрос раньше было труднее ответить, во времена тех споров. Если вы хотели доказать существование мысленных образов «научно», а не просто с помощью интроспекции, вам приходилось делать вывод об их существовании на основе подобных экспериментов: испытуемым показывают два объекта и спрашивают, можно ли один из них повернуть так, чтобы он совпал с другим. Время ответа линейно пропорционально углу необходимого поворота. Это легко объяснить, если вы действительно визуализируете объект и непрерывно вращаете его с постоянной скоростью, но трудно объяснить, если вы просто проверяете пропозициональные свойства изображения.

Сегодня мы действительно можем с помощью нейровизуализации наблюдать маленькие картинки в зрительной коре. Так что да, ваш мозг действительно репрезентирует детальный