Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

отношения идей можно «обнаружить путём чисто мысленной операции, безотносительно к тому, существует ли что-либо где-либо во Вселенной». Вы можете увидеть, что 1 + 1 = 2, просто размышляя об этом, даже не глядя на яблоки.

Но в наш век нейробиологии следует осознавать, что мысли существуют во Вселенной; они тождественны работе мозга. Материального мозга, реального во Вселенной, состоящего из кварков в рамках единой математической физики, чьи законы не проводят никакой границы между внутренней и внешней стороной вашего черепа.

Когда вы в уме складываете 1 + 1 и получаете 2, эти мысли сами по себе воплощаются во вспышках нейронных паттернов. В принципе, мы могли бы наблюдать на опыте те же самые материальные события, происходящие в чьём-то чужом мозгу. Для этого потребовались бы некоторые успехи в вычислительной нейробиологии и интерфейсах мозг-компьютер, но в принципе это возможно сделать. Вы могли бы увидеть, как материально работает чужой двигатель, через материальные причинно-следственные связи вычисляя посредством «чистой мысли», что 1 + 1 = 2. Чем наблюдение за этим паттерном в чужом мозгу отличается, как способ познания, от наблюдения за тем, как ваш собственный мозг делает то же самое? Когда «чистая мысль» говорит вам, что 1 + 1 = 2, «независимо от какого-либо опыта или наблюдения», вы, по сути, наблюдаете свой собственный мозг в качестве доказательства.

Если это кажется контринтуитивным, попробуйте взглянуть на разум/мозг как на двигатели — двигатель, который сталкивает нейронный паттерн для единицы и нейронный паттерн для единицы и получает нейронный паттерн для двойки. Если этот двигатель вообще работает, то он должен выдавать тот же результат, когда наблюдает (с помощью глаз и сетчатки) за аналогичным мозгом-двигателем, совершающим аналогичное столкновение, и копирует в себя получившийся паттерн. Иными словами, для любой формы априорного знания, полученного с помощью «чистой мысли», вы узнаёте ровно то же самое, что узнали бы, если бы увидели сторонний мозг-двигатель, осуществляющий те же самые чистые вспышки нейронной активности. Двигатели эквивалентны, конечные результаты эквивалентны, зацепления убеждений одинаковы.

Нет ничего, что вы могли бы знать «априори» и чего не могли бы знать с той же степенью достоверности, наблюдая за выделением химических нейромедиаторов в чьём-то чужом мозгу. Как вы думаете, что вы такое, дорогой читатель?

Вот почему вы можете предсказать результат сложения одного яблока с другим, сначала вообразив это в уме, или ввести «3 × 4» в калькулятор, чтобы предсказать результат воображаемого расположения 4 рядов по 3 яблока в каждом. Вы и яблоко существуете внутри единого физического процесса, не имеющего границ, и одна его часть может отражать другую.

Являются ли нейронные вспышки, которые философы называют «априорными убеждениями», произвольными? Многие ИИ-алгоритмы работают лучше благодаря «регуляризации», которая смещает пространство решений в сторону более простых вариантов. Но сами регуляризованные алгоритмы при этом сложнее: они содержат дополнительную строчку кода (или тысячу дополнительных строчек) по сравнению с нерегуляризованными алгоритмами. Человеческий мозг склонен к простоте, и благодаря этому мы мыслим эффективнее. Если вы нажмёте кнопку «Игнорировать» на этом этапе, вы останетесь со сложным мозгом, который существует без всякой причины и работает без всякой причины. Так что не пытайтесь говорить мне, будто «априорные» убеждения произвольны, ведь они уж точно получаются не в результате генерации случайных чисел. (Да и что вообще означает прилагательное «произвольный»?)

Нельзя оправдать присвоение суждению ярлыка «априорного» указанием на то, что другие философы испытывают трудности с обоснованием своих суждений. Если философ неспособен что-то объяснить, этот факт не подаст электричество в холодильник и не послужит волшебной фабрикой по производству точных убеждений. Здесь не может быть перемирия, белого флага — пока вы не поймёте, почему этот двигатель работает.

Если очистить разум от обоснований, от аргументов, то кажется очевидным, почему бритва Оккама работает на практике: мы живём в простом мире, в низкоэнтропийной вселенной, где можно найти короткие объяснения. «Но, — воскликните вы, — почему сама Вселенная упорядочена?» Этого я не знаю, но именно в этом вижу следующую тайну, требующую объяснения. И это совсем не тот же вопрос, что «Как мне доказать бритву Оккама гипотетическому оппоненту, который её ещё не принял?»

Возможно, вы не сможете ничего доказать гипотетическому оппоненту, который не принимает бритву Оккама, — точно так же, как вы ничего не докажете камню. Разуму необходима некоторая динамическая структура, чтобы вообще быть способным принимать аргументы. Если разум не реализует правило Modus Ponens, он может целыми днями принимать «А» и «А → B», так и не выдав на выходе «B». Как обосновать Modus Ponens разуму, который его ещё не принял? Как доводами превратить камень в разум?

Мозг эволюционировал из материи, не имеющей мозга, путём естественного отбора; его существование не было логически обосновано в споре с идеальным студентом-философом с абсолютно чистым разумом. Это не делает наши суждения бессмысленными. Мозг-двигатель может работать правильно, формируя точные убеждения, даже если он был всего лишь построен — руками человека или кумулятивным давлением стохастического отбора, — а не вызван к жизни доводами. Но чтобы такой ответ вас удовлетворил, нужно смотреть на рациональность через призму двигателей, а не аргументов.

*

220. Редуктивная референция.

Редукционистский тезис (в моей формулировке) состоит в том, что человеческий разум из соображений эффективности использует многоуровневую карту, в рамках которой мы раздельно думаем о таких вещах, как «атомы» и «кварки», «руки» и «пальцы» или «тепло» и «кинетическая энергия». Сама же реальность одноуровневая в том смысле, что она, судя по всему, не содержит атомов как отдельных, дополнительных, обладающих собственной причинной силой сущностей помимо и сверх кварков.

Сади Карно сформулировал (предтечу) Второго закона термодинамики на основе теплородной теории, согласно которой теплота была просто жидкостью, текущей от горячих тел к холодным, порождаемой огнем и заставляющей газы расширяться, — проявления тепла изучались отдельно от кинетики задолго до того, как произошла редукция. Если вы пытаетесь спроектировать паровой двигатель, проявления всех этих крошечных колебаний и столкновений, которые мы называем «теплом», можно свести к гораздо более простому описанию, чем полная квантовомеханическая картина кварков. Люди вычисляют эффективно, думая только о существенных воздействиях на значимые для их целей величины.

Однако сама реальность, судя по всему, задействует полную квантовую механику кварков. Однажды я встретил человека, который думал, что если использовать общую теорию относительности для расчета задачи на низких скоростях, например для артиллерийского снаряда, то ОТО выдаст неправильный ответ — не просто медленный расчет, а экспериментально неверный ответ,