Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

зажигающихся о любую поверхность, фосфор входит в состав головки. Фосфор чрезвычайно реакционноспособен; чистый фосфор светится в темноте и может самовоспламеняться. (Хенниг Бранд, выделивший чистый фосфор в 1669 году, объявил, что открыл Стихию Огня.) Фосфор также идеально подходит для своей роли в аденозинтрифосфате, АТФ — главном способе хранения химической энергии в вашем организме. АТФ иногда называют «молекулярной валютой». Он даёт силу вашим мышцам и заряжает ваши нейроны. Почти любая метаболическая реакция в биологии опирается на АТФ и, следовательно, на химические свойства фосфора.

Если перестанет работать спичка, перестанете работать и вы. Нельзя изменить что-то одно.

Поверхностные правила «спички загораются при трении» и «людям нужен воздух для дыхания» на первый взгляд никак не связаны. Понадобились века, чтобы открыть эту связь, да и сейчас она кажется каким-то далеким школьным фактом, важным лишь для узких специалистов. Очень легко вообразить мир, в котором одно поверхностное правило работает, а другое — нет; ослабить уверенность в одном убеждении, но не в другом. Но это лишь воображение, а не реальность. Если для удобства хранения ваша карта разделена на четыре части, это не значит, что и сама территория разорвана на части. Наш разум хранит разные поверхностные правила в разных отсеках, но это не отражает какого-либо разделения в законах, управляющих Природой.

Мы можем пойти в этом уроке еще дальше. Свойства фосфора вытекают из еще более глубоких законов — электродинамики и хромодинамики. «Фосфор» — это лишь наше слово для обозначения электронов и кварков, расположенных определенным образом. Нельзя изменить химические свойства фосфора, не меняя законов, управляющих электронами и кварками.

Окажись вы в мире, где спички не загораются, вы сами мгновенно перестали бы существовать как организованная материя.

Реальность связана воедино гораздо теснее, чем людям хотелось бы верить.

*

1. Лайон Спрэг де Камп и Флетчер Прэтт, «Дипломированный чародей» (New York: Henry Holt & Company, 1941).

182. Всеобщий закон.

Антуан Лоран де Лавуазье обнаружил, что дыхание и горение подчиняются одному и тому же принципу. Это было одно из самых поразительных объединений в истории науки, поскольку оно связало воедино обыденную сферу материи и священную сферу жизни, которые люди прежде разделяли на отдельные магистерии.

Первым великим упрощением стало открытие Исаака Ньютона, который объединил движение планет с траекторией падающего яблока. Потрясение от этого открытия было куда сильнее, чем от открытия Лавуазье. Дело было не только в том, что Ньютон дерзнул объединить земную сферу низменной материи с очевидно иной и священной небесной сферой, которая некогда считалась обителью богов. Открытие Ньютона породило представление о всеобщем законе — одинаковом повсюду и во все времена, имеющем буквально ноль исключений.

Люди живут в мире поверхностных явлений, а поверхностные явления делятся на размытые категории со множеством исключений. Тигр ведет себя не так, как буйвол. У большинства буйволов четыре ноги, но у этого, возможно, три. С чего бы вдруг кому-то пришло в голову, что существуют законы, действующие повсюду? Но ведь это очевидно не так.

Единственная ситуация, когда нам, кажется, хотелось бы, чтобы закон действовал повсеместно, — это когда мы говорим о моральных законах, племенных правилах поведения. Кто-то из соплеменников может попытаться забрать себе больше положенной доли мяса буйвола — возможно, придумав какую-то хитрую отговорку, — поэтому в отношении моральных законов у нас, похоже, действительно есть инстинктивное стремление к универсальности. Да, правило о равном разделе мяса относится именно к тебе, прямо сейчас, нравится тебе это или нет. Но даже здесь бывают исключения. Если бы — по какой-то нелепой причине — более сильное племя пригрозило перебить вас всех копьями, если только Боб не получит вдвое больше мяса именно в этот раз, вы бы дали Бобу вдвое больше мяса. Идея правила, не имеющего буквально никаких исключений, кажется безумно негибкой — порождением узколобого мышления фанатиков, находящихся во власти своей единственной великой идеи настолько, что они не способны разглядеть все богатство и сложность реальной вселенной.

Обычно именно в этом и обвиняют ученых — профессиональных исследователей богатства и сложности реальной вселенной. Потому что, если действительно посмотреть на вселенную, окажется, что она, по человеческим меркам, безумно негибка в применении своих правил. Насколько нам известно, с самой зари времен и до сего дня не случилось ни единого нарушения закона сохранения импульса.

Иногда — крайне редко — мы наблюдаем кажущееся нарушение наших моделей фундаментальных законов. Хотя наши научные модели могут прожить поколение-другое, они не остаются неизменными на протяжении веков… но не стоит воображать, будто это делает капризной саму вселенную. Это значит путать карту с территорией. Ведь когда уляжется пыль и старая теория рушится, выясняется, что вселенная всегда действовала в соответствии с новым открытым нами обобщением, которое — вновь — абсолютно универсально, насколько хватает человеческих знаний. Когда выяснилось, что ньютоновская гравитация — лишь частный случай общей теории относительности, стало очевидно, что ОТО управляла орбитой Меркурия на протяжении десятилетий, прежде чем хоть один человек узнал о ней; а позже стало ясно, что ОТО управляла коллапсом звезд в течение миллиардов лет до появления человечества. Ошибалась лишь наша модель — сам же Закон всегда оставался абсолютно неизменным. По крайней мере, так утверждает наша новая модель.

Я могу лишь на 80% быть уверенным в том, что предел скорости света продержится следующие сто тысяч лет, но это не значит, будто я считаю, что предел скорости света соблюдается только в 80% случаев, с редкими исключениями. Утверждение, которому я присваиваю 80-процентную вероятность, заключается в том, что закон о предельной скорости света абсолютно нерушим на всём протяжении пространства и времени.

Одна из причин, по которой древние греки так и не открыли науку, заключается в том, что они не понимали возможности обобщения на основе экспериментов. Греческих философов интересовали «нормальные» явления. Если вы ставили искусственный эксперимент, то, скорее всего, получали «чудовищный» результат — тот, который ничего не говорил о том, как всё устроено на самом деле.

Так склонны грезить люди, пока не наберутся ума; но как насчет тихих снов самой вселенной, которые она видела в одиночестве ещё до того, как ей вообще приснился человек? Если вы хотите научиться мыслить подобно самой реальности, вот вам Дао:

С самого начала

ничего необычного

так и не произошло.

*

183. Уродлива ли реальность?