Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

структуры, включая миры с законами физики и граничными условиями, совершенно непохожими на наши. Он отличает эти «миры Тегмарка» от мультивселенных в более общепринятых научных гипотезах — например, от миров в моделях стохастической вечной инфляции Большого взрыва и во многомировой интерпретации квантовой физики Хью Эверетта.

Юдковский гораздо подробнее обсуждает многомировые интерпретации как ответ на копенгагенские интерпретации квантовой механики. В последние десятилетия многомировая интерпретация стала очень популярна среди физиков, особенно космологов. Тем не менее ряд физиков продолжают отвергать её или придерживаться агностицизма. Для ознакомления с этой дискуссией с (в основном) общепринятой в философии точки зрения см. книгу Альберта «Квантовая механика и опыт».6 См. также вводную статью «Измерение в квантовой теории»7 в Стэнфордской философской энциклопедии, а также описание нескольких концепций, связанных со «множественностью миров», в статьях «Формулировка через относительные состояния Эверетта»8 и «Многомировая интерпретация»9.

Что касается менее теоретической стороны, книга Эпштейна «Думать как физик» — прекрасный учебник для развития физической интуиции.10 Стоит помнить, что точно так же, как можно понять бóльшую часть когнитивистики, не понимая природы субъективного сознания, можно понять и бóльшую часть физики, не имея устоявшегося взгляда на фундаментальную природу (и размеры!) физического мира.

*

1. Дэниел Деннет, «Свобода эволюционирует» (Viking Books, 2003).

2. Дэвид Чалмерс, «Сознающий ум. В поисках фундаментальной теории» (New York: Oxford University Press, 1996).

3. Томас Нагель, «Каково это — быть летучей мышью?», Philosophical Review 83, no. 4 (1974): 435–450, http://www.jstor.org/stable/2183914.

4. В опросе англоязычных профессиональных философов 56,5% высказались в пользу физикализма, 27,1% — в пользу антифизикализма, а 16,4% предпочли другие варианты (например, «не знаю»).11 Большинство философов отвергают метафизическую возможность существования чалмерсовских «зомби», однако нет единого мнения о том, почему именно его аргумент о зомби несостоятелен. Кирк резюмирует современные позиции относительно феноменального сознания, приводя аргументы, схожие с доводами Юдковского против возможности познания нередуцируемых квалиа или ссылки на них.12

5. Макс Тегмарк, «Наша математическая вселенная. В поисках фундаментальной природы реальности» (Random House LLC, 2014).

6. Дэвид З. Альберт, «Квантовая механика и опыт» (Harvard University Press, 1994).

7. Генри Крипс, «Измерение в квантовой теории», в Стэнфордской философской энциклопедии, осень 2013, под ред. Эдварда Н. Залта.

8. Джеффри Барретт, «Формулировка квантовой механики через относительные состояния Эверетта», под ред. Эдварда Н. Залта, http://plato.stanford.edu/archives/fall2008/entries/qm-everett/.

9. Лев Вайдман, «Многомировая интерпретация квантовой механики», в Стэнфордской философской энциклопедии, осень 2008, под ред. Эдварда Н. Залта.

10. Льюис Кэрролл Эпштейн, «Думать как физик. Понятная практическая реальность», 3-е издание (Insight Press, 2009).

11. Дэвид Бурже и Дэвид Чалмерс, «Во что верят философы?», Philosophical Studies (2013): 1–36.

12. Роберт Кирк, «Разум и тело» (McGill-Queen’s University Press, 2003).

Часть O. Закономерная истина.

181. Всеобщий огонь.

В фэнтезийной повести Лайона Спрэга де Кампа «Дипломированный чародей» (которая послужила образцом для множества последующих подражаний) герой Гарольд Ши переносится из нашей вселенной во вселенную скандинавских мифов.1 Этот мир основан на магии, а не на технологиях, поэтому, естественно, когда Наш Герой пытается разжечь огонь прихваченной с Земли спичкой, спичка не загорается.

Я понимаю, что это всего лишь фэнтези, но... как бы это выразиться...

Нет.

В конце XVIII века Антуан-Лоран Лавуазье открыл огонь. «Что? — спросите вы. — Разве люди не пользовались огнем сотни тысяч лет?» Ну да, люди огнем пользовались: он был горячим, ярким, каким-то оранжеватым, и на нем можно было готовить еду. Но никто не знал, как он работает. Греческие и средневековые алхимики считали, что Огонь — это первоэлемент, одна из Четырех Стихий. К эпохе Лавуазье алхимическая парадигма постепенно видоизменилась и сильно усложнилась, но огонь по-прежнему считался первоэлементом — в виде «флогистона», довольно загадочного вещества, которым объясняли горение, а заодно и любые другие явления в алхимии.

Главное новшество Лавуазье состояло в том, что он взвешивал все элементы химической головоломки как до, так и после химической реакции. Ранее считалось, что некоторые химические превращения меняют общий вес вещества: если подвергнуть мелко растертую сурьму воздействию сфокусированного солнечного света через зажигательное стекло, то через час сурьма превратится в пепел, и этот пепел будет весить на одну десятую больше, чем исходная сурьма — даже несмотря на то, что горение сопровождалось выделением густого белого дыма. Лавуазье взвесил все компоненты таких реакций, включая воздух, в котором они происходили, и обнаружил, что материя не создается и не уничтожается. Если вес пепла увеличивался, то вес воздуха уменьшался на соответствующую величину.

Лавуазье также умел разделять газы и обнаружил, что горящая свеча уменьшает количество одного вида газа, «жизненного воздуха», и выделяет другой газ — «связанный воздух». Сегодня мы назвали бы их кислородом и углекислым газом. Когда «жизненный воздух» заканчивался, огонь гас. Можно было предположить, что горение превращает «жизненный воздух» в «связанный воздух», а топливо — в пепел, и что продолжение этого превращения ограничено количеством доступного «жизненного воздуха».

Теория Лавуазье прямо противоречила господствовавшей тогда теории флогистона. Одного этого было бы достаточно, чтобы потрясти основы, но вдобавок оказалось...

Чтобы оценить то, что произошло дальше, вам нужно перенестись в образ мыслей человека XVIII века. Забудьте об открытии ДНК, которое произошло только в 1953 году. Сотрите из памяти клеточную теорию, сформулированную в 1839 году. Представьте, как вы смотрите на свою ладонь, сжимаете пальцы... и абсолютно не понимаете, как это работает. Анатомия мышц и костей была известна, но никто понятия не имел, «что приводит их в движение» — почему мышца сокращается и сгибается, в то время как вылепленная из глины рука точно такой же формы просто лежит неподвижно. Представьте, что ваше собственное тело состоит из загадочной, непостижимой жижи. И теперь представьте, что вы совершаете открытие...

...что люди при дыхании поглощают «жизненный воздух» и выдыхают «связанный воздух». Оказывается, люди тоже работают на горении! Лавуазье измерил количество тепла, которое выделяют животные (и ассистент Лавуазье, Сеген) при физических нагрузках, количество потребляемого ими «жизненного воздуха» и количество выдыхаемого «связанного воздуха». Когда животные выделяли больше тепла, они потребляли больше «жизненного воздуха» и выдыхали больше «связанного воздуха». Люди, подобно огню, потребляли топливо и кислород; люди, подобно огню, выделяли тепло и углекислый газ. Лишите человека кислорода или пищи — и свет погаснет.

Спички загораются благодаря фосфору: у «безопасных спичек» фосфор нанесён на тёрку коробка, а у спичек,