Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

более известный как закон сохранения энергии, гласит, что нельзя создать энергию из ничего: он запрещает вечные двигатели первого рода, которые работают бесконечно, не потребляя топлива или других ресурсов. Согласно современным физическим представлениям, энергия сохраняется в каждом отдельном взаимодействии частиц. Методом математической индукции мы видим, что сколь бы крупным ни было скопление частиц, оно не может производить энергию из ничего — во всяком случае, без нарушения того, что мы сейчас считаем законами физики.

Вот почему Патентное ведомство США без лишних разговоров отклонит ваше поразительно остроумное предложение по созданию системы колес и шестеренок, в которой одна пружина заводит другую по мере того, как первая раскручивается, благодаря чему вся конструкция, согласно вашим расчетам, совершает работу вечно. Существует универсальное доказательство того, что для этого как минимум одно колесо должно нарушить законы физики (в нашей стандартной модели). Так что, если вы не можете объяснить, как одно колесо нарушает законы физики, система колес тоже этого сделать не сможет.

Аналогичный аргумент применим и к «безопорному двигателю» — двигательной установке, нарушающей закон сохранения импульса. В стандартной физике импульс сохраняется для всех отдельных частиц и их взаимодействий; методом математической индукции импульс сохраняется для физических систем любого масштаба. Если вы можете представить, как две частицы сталкиваются и всегда разлетаются с тем же суммарным импульсом, с которым начали движение, то вы поймете, что масштабирование от частиц до гигантской сложной системы шестеренок ничего не изменит. Даже если в этом участвует триллион квадриллионов атомов, 0 + 0 + … + 0 = 0.

Но закон сохранения энергии как таковой не может запретить превращение тепла в работу. Вы действительно можете построить герметичный ящик, который превращает кубики льда и запасенное электричество в теплую воду. Это даже несложно. Энергия не может быть создана или уничтожена: чистое изменение энергии при переходе от (кубики льда + электричество) к (теплая вода) должно быть равно нулю. Таким образом, закон сохранения энергии как таковой не был бы нарушен, если бы вы проделали все это в обратном направлении...

Вечные двигатели второго рода, превращающие теплую воду в электрический ток и кубики льда, запрещены Вторым законом термодинамики.

Второй закон понять немного сложнее, поскольку по своей сути он байесовский.

Да, серьезно.

Главным физическим законом, лежащим в основе Второго закона термодинамики, является теорема, которую можно доказать в рамках стандартной физической модели: при эволюции любой замкнутой системы во времени объем фазового пространства сохраняется.

Допустим, вы держите мяч высоко над землей. Мы можем описать это положение дел как точку в многомерном пространстве, как минимум одним из измерений которого является «высота мяча над землей». Затем, когда вы отпускаете мяч, он начинает двигаться, а вместе с ним движется и безразмерная точка в фазовом пространстве, описывающая всю систему, включающую вас и мяч. «Фазовое пространство» на языке физики означает, что в нем есть измерения для импульса частиц, а не только для их положения — например, система из двух частиц будет иметь 12 измерений: 3 измерения для положения каждой частицы и 3 измерения для импульса каждой частицы.

Если бы у вас было многомерное пространство, каждое измерение которого описывало бы положение шестеренки в огромной их совокупности, то при вращении шестеренок одна-единственная точка совершала бы виражи и броски в фазовом пространстве довольно высокой размерности. Иными словами, точно так же, как вы можете рассматривать огромную сложную машину как одну точку в пространстве очень высокой размерности, вы можете рассматривать и законы физики, описывающие поведение этой машины во времени, как траекторию ее точки в фазовом пространстве.

Второй закон термодинамики является следствием теоремы, которую можно доказать в стандартной модели физики: если взять некоторую область фазового пространства и проследить ее эволюцию вперед во времени согласно стандартной физике, общий объем фазового пространства сохраняется.

Например, пусть существуют две системы, X и Y, где X имеет 8 возможных состояний, Y — 4 возможных состояния, а объединенная система (X, Y) — 32 возможных состояния.

Развитие объединенной системы во времени можно описать как правило, отображающее начальные точки в будущие. Например, система может начать в состоянии X7Y2, а затем развиться (согласно некоторому набору физических законов) в состояние X3Y3 минуту спустя. Иными словами: если бы X стартовала в состоянии X7, а Y стартовала в состоянии Y2, и мы наблюдали бы за ними в течение 1 минуты, мы бы увидели, как X переходит в X3, а Y переходит в Y3. Таковы законы физики.

Теперь давайте выделим подпространство S состояний объединенной системы. Пространство S будет подпространством, задаваемым условием, что X находится в состоянии X1, а Y — в состояниях от Y1 до Y4. Таким образом, общий объем S равен 4 состояниям.

И давайте предположим, что согласно законам физики, управляющим (X, Y), состояния, изначально находившиеся в S, ведут себя следующим образом:

X1Y1 → X2Y1

X1Y2 → X4Y1

X1Y3 → X6Y1

X1Y4 → X8Y1.

Вот, в двух словах, как работает холодильник.

Подсистема X изначально находилась в узкой области пространства состояний — фактически в одном-единственном состоянии X1, — а подсистема Y изначально была распределена по более широкой области пространства, от состояния Y1 до Y4. Взаимодействуя друг с другом, Y перешла в узкую область, а X оказалась в широкой области; но общий объем фазового пространства сохранился. Четыре исходных состояния отобразились в четыре конечных состояния.

Очевидно, пока законы физики с течением времени сохраняют общий объем фазового пространства, невозможно сжать Y сильнее, чем расширится X, и наоборот — для каждой подсистемы, которую вы сжимаете в более узкую область пространства состояний, какая-то другая подсистема должна расшириться в более широкую область.

Теперь допустим, что мы не уверены относительно объединенной системы (X,Y), и наша неопределенность описывается равновероятным распределением на S. То есть мы практически уверены, что X находится в состоянии X1, но Y с равной вероятностью может находиться в любом из состояний от Y1 до Y4. Если мы закроем глаза на минуту, а затем снова откроем их, мы будем ожидать увидеть Y в состоянии Y1, но X может оказаться в любом из состояний от X2 до X8. На самом деле X может находиться лишь в некоторых из состояний от X2 до X8, но просчитывать, в каких именно, было бы слишком