Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Это кажется сильным заявлением, по крайней мере первая его часть. Общая теория относительности кажется отлично подтвержденной, но кто знает — вдруг какой-нибудь физик будущего опровергнет её?

С другой стороны, мы никогда не вернемся назад к ньютоновской механике. Храповик науки вращается, но не имеет обратного хода. В истории науки бывали случаи, когда теория получала рану-другую, а затем оправлялась; но когда теория получает столько стрел в грудь, сколько ньютоновская механика, её уже не воскресить.

«К черту то, что думали прошлые цивилизации» — звучит довольно безопасно, когда эти цивилизации верили во что-то, что было развенчано и отправлено на свалку истории.

И редукционизм — это не столько позитивная гипотеза, сколько отсутствие веры — а именно неверие в ту или иную форму ошибки проекции разума.

Однажды я встретил парня, который утверждал, что служил артиллеристом на флоте. Он сказал: «Когда стреляешь артиллерийскими снарядами, траектории нужно рассчитывать по ньютоновской механике. Если считать по теории относительности, получится неверный ответ».

И я, и еще один присутствовавший при этом человек категорически ответили: «Нет». Я добавил: «Возможно, вы просто не сможете рассчитывать траектории достаточно быстро, чтобы вовремя получить ответы — может, вы это имели в виду? Но релятивистский ответ всегда будет точнее ньютоновского».

— Нет, — сказал он, — я имею в виду, что теория относительности даст неверный ответ, потому что объекты, движущиеся со скоростями артиллерийских снарядов, подчиняются ньютоновской механике, а не теории относительности.

— Если бы это действительно было так, — ответил я, — вы могли бы опубликовать это в физическом журнале и забрать свою Нобелевскую премию.

Стандартная физика использует одну и ту же фундаментальную теорию для описания полета «Боинга-747» и столкновений в Релятивистском коллайдере тяжелых ионов. И ядра, и самолеты, согласно нашему пониманию, подчиняются специальной теории относительности, квантовой механике и хромодинамике.

Но мы используем совершенно разные модели, чтобы понять аэродинамику «Боинга-747» и столкновение ядер золота в RHIC. Компьютер, моделирующий аэродинамику «Боинга-747», может не содержать ни единого токена, ни единого бита оперативной памяти, представляющего кварк.

Так неужели «Боинг-747» сделан не из кварков, а из чего-то другого? Нет, просто вы моделируете его с помощью элементов описания, которые не имеют взаимно-однозначного соответствия с кварками «Боинга-747». Карта — не территория.

Почему бы не смоделировать «Боинг-747» с помощью хромодинамического представления? Потому что тогда потребовался бы газзиллион лет, чтобы получить хоть какие-то ответы из модели. К тому же по состоянию на 2008 год мы не смогли бы сохранить эту модель на всей памяти всех компьютеров мира.

Как говорится, «Карта — не территория, но вы не можете сложить территорию и положить ее в бардачок». Иногда вам нужна карта поменьше, чтобы она поместилась в тесный бардачок, но это не меняет саму территорию. Масштаб карты — это факт не о территории, это факт о карте.

Если бы было возможно построить и запустить хромодинамическую модель «Боинга-747», она давала бы точные прогнозы. На самом деле, даже более точные прогнозы, чем аэродинамическая модель.

Чтобы построить абсолютно точную модель «Боинга-747», в принципе не обязательно, чтобы она содержала явные описания таких понятий, как воздушный поток и подъемная сила. В ней не должно быть ни одного токена, ни одного бита оперативной памяти, соответствующего положению крыльев. В принципе возможно построить точную модель Боинга-747, в которой вообще не упоминается ничего, кроме полей элементарных частиц и фундаментальных взаимодействий.

— Что? — кричит антиредукционист. — Вы хотите сказать, что у «Боинга-747» на самом деле нет крыльев? Да я же их прекрасно вижу!

Идея здесь тонкая. Дело не просто в том, что объект может иметь разные описания на разных уровнях.

Дело в том, что «наличие разных описаний на разных уровнях» само по себе относится к области разговоров о картах, а не к области разговоров о территории.

Не сам самолет и не сами законы физики используют разные описания на разных уровнях — как думал тот артиллерист. Скорее мы для нашего удобства используем разные упрощенные модели на разных уровнях.

Если бы вы взглянули на предельную хромодинамическую модель — ту, что содержит только поля элементарных частиц и фундаментальные взаимодействия, — эта модель содержала бы все факты о воздушном потоке, подъемной силе и положении крыльев, но эти факты были бы неявными, а не явными.

Вы, глядя на модель и размышляя о ней, смогли бы сообразить, где находятся крылья. Как только вы это поймете, в вашем разуме возникнет явное представление о положении крыльев — явный вычислительный объект в вашей нейронной оперативной памяти. В вашем разуме.

Вы действительно могли бы вывести всевозможные явные описания самолета на разных уровнях и даже явные правила того, как ваши модели разных уровней взаимодействуют друг с другом для получения комбинированных прогнозов —

И изнутри этот алгоритм ощущается так: самолет кажется состоящим сразу из множества уровней, взаимодействующих друг с другом.

Убеждение изнутри ощущается так, будто вы смотрите прямо на реальность. Когда же вам на самом деле кажется, что вы смотрите на само убеждение, вы на самом деле переживаете убеждение об убеждении.

Поэтому, когда ваш разум одновременно принимает за истину явные описания множества разных уровней и явные правила перехода между ними как часть эффективной комбинированной модели, вам кажется, будто вы видите систему, которая состоит из описаний разных уровней и правил их взаимодействия.

Но это всего лишь мозг пытается эффективно сжать объект, который он и близко не способен смоделировать на фундаментальном уровне. Самолет слишком велик. Даже атом водорода был бы слишком велик. Взаимодействия кварков безумно сложны для расчета. Вы не вынесете этой правды.

Но физика, насколько мы можем судить, на самом деле устроена так, что существует только самый базовый уровень — поля элементарных частиц и фундаментальные взаимодействия. Вы не вынесете чистой правды, но реальность справляется с ней без малейших упрощений. (Хотел бы я знать, откуда Реальность берет свои вычислительные мощности.)

Законы физики не содержат отдельных дополнительных причинных сущностей, соответствующих подъемной силе или крыльям самолета, подобно тому как разум инженера содержит отдельные дополнительные когнитивные сущности, соответствующие подъемной силе или крыльям самолета.

В этом, как мне кажется, и заключается тезис редукционизма. Редукционизм — это не позитивное убеждение, а скорее неверие в то, что более высокие уровни упрощенных многоуровневых моделей действительно существуют на территории. Понимание этого на интуитивном уровне растворяет вопрос: «Как вы можете говорить, что у самолета на самом деле нет