Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Подобно тому как полезно было противопоставлять людей как целенаправленные системы нечеловеческим процессам в эволюционной биологии и искусственном интеллекте, в следующих цепочках эссе будет полезно противопоставить людей как физические системы нечеловеческим процессам, которые не подобны разуму.

В конце концов, мы, люди, состоям из нечеловеческих частей. Мир атомов совсем не похож на мир в нашем привычном представлении, и уж точно не похож на сознательных обитателей этого мира, какими мы их себе обычно воображаем. Как выразился Джулио Джорелло в интервью с Дэниелом Деннетом: «Да, у нас есть душа. Но она сделана из множества крошечных роботов»1.

Просто реальность объединяет семь цепочек эссе на эту тему. Первые три вводят в проблему того, как человеческий мир соотносится с миром, открываемым физикой: «Закономерная истина» (о базовых связях между физикой и человеческим познанием), «Редукционизм 101» (о проекте научного объяснения явлений) и «Радость в просто реальном» (об эмоциональном и личном значении научного мировоззрения). За ними следуют две цепочки, которые глубже вдаются в конкретные академические дискуссии: «Физикализм 201» (о трудной проблеме сознания) и «Квантовая физика и многие миры» (о проблеме измерения в физике). Наконец, цепочка «Наука и рациональность» и эссе «Техническое объяснение технического объяснения» связывают эти идеи воедино и соотносят их с научной практикой.

Обсуждение сознания и квантовой физики иллюстрирует связь редукционизма с современными спорами в науке и философии. Для тех, кому интересен дополнительный контекст, я скажу здесь ещё несколько слов об этих двух темах. А тем, кому не терпится забежать вперёд — забегайте вперёд!

Разумы в мире

Сможем ли мы когда-нибудь узнать, каково это — быть летучей мышью?

Мы, конечно, можем разработать более совершенные когнитивные модели для предсказания поведения летучей мыши или более подробные модели её нейрофизиологии — но далеко не очевидно, что это откроет нам, как субъективно ощущаются эхолокация или полёт с точки зрения летучей мыши.

Более того, кажется, мы никогда не сможем даже до конца убедиться в том, что вообще существует такое переживание, как «быть летучей мышью». Почему бы бессознательному автомату не копировать всё внешнее поведение сознательного агента с произвольной точностью? (Философы называют такие автоматы «зомби», хотя они имеют мало общего с зомби из фольклора, которые весьма заметно отличаются от сознательных агентов!)

Раса инопланетных психологов столкнулась бы с той же проблемой при попытке смоделировать человеческое сознание. Они могли бы прийти к совершенной предсказательной модели того, что мы говорим и делаем, когда видим красную розу, но это не означало бы, что инопланетяне до конца понимают, как ощущается краснота «изнутри».

Развивая подобные примеры, философы вроде Томаса Нагеля и Дэвида Чалмерса утверждали, что когнитивные и нейробиологические модели «от третьего лица» никогда не смогут полностью охватить сознание «от первого лица».2,3 С этой точки зрения, сколько бы мы ни знали о физической системе, всегда остаётся логическая возможность, что она не обладает никаким опытом от первого лица. Традиционный дуализм с его нематериальными душами, свободно парящими вокруг и нарушающими законы физики, возможно, и ложен, но Чалмерс настаивает на более слабом тезисе: сознание — это «дополнительный факт», не объясняемый полностью фактами физическими.

Многие философы и учёные находят этот ход рассуждений убедительным.4 Если мы ощущаем интуитивную убедительность этого аргумента, стоит ли нам согласиться с его выводом и отбросить физикализм?

Нам, конечно, не стоит отвергать его просто потому, что он звучит странно или кажется смутно ненаучным. Но как этот аргумент соотносится с техническим пониманием того, как устроены объяснения и убеждения? Можем ли мы почерпнуть какие-то подсказки из истории науки или из нашего понимания физических механизмов, лежащих в основе свидетельств? Цепочка «Физикализм 201» вернётся к этому вопросу.

Миры в мире

Квантовая механика на сегодняшний день — наша лучшая математическая модель Вселенной, убедительно подтверждённая столетием проверок. Теория постулирует комплексную «амплитуду вероятности» — названную так потому, что определённая операция (возведение модуля числа в квадрат — правило Борна) позволяет нам вероятностно предсказывать явления на малых масштабах и при экстремальных уровнях энергии. Эта амплитуда меняется детерминированно в соответствии с уравнением Шрёдингера. В ходе этого процесса она часто переходит в странные состояния, называемые «суперпозициями».

Однако при проведении экспериментов суперпозиции словно бесследно исчезают. Пока мы не смотрим, уравнение Шрёдингера, по всей видимости, описывает всё, что только можно знать о динамике физических систем. Но когда мы смотрим, этот чистый детерминизм уступает место вероятностному правилу Борна. Всё выглядит так, будто обычные законы физики внезапно приостанавливают своё действие всякий раз, когда мы проводим «наблюдения». Как выразился Джон Стюарт Белл:

Похоже, что теория озабочена исключительно «результатами измерений» и ей нечего сказать обо всём остальном. Что именно даёт право некоторым физическим системам играть роль «измерителя»? Неужели волновая функция мира ждала возможности совершить скачок тысячи миллионов лет, пока не появилось одноклеточное живое существо? Или ей пришлось подождать ещё немного — более квалифицированной системы... с докторской степенью?

Все согласны с тем, что эта странная смесь правил Шрёдингера и Борна доказала свою эмпирическую адекватность. Тем не менее вопрос о том, когда именно вступает в силу правило Борна и что всё это означает, породил хаос из различных взглядов на природу квантовой механики.

На ранних этапах копенгагенская школа — Нильс Бор и другие создатели квантовой теории — раскололась на несколько стандартных способов интерпретации результатов экспериментов и странного формализма, использовавшегося для их предсказания. Некоторые, понимая акцент теории на «измерениях» и «наблюдениях» совершенно буквально, предположили, что сознание играет фундаментальную роль в физических законах, вмешиваясь, чтобы заставить комплексные амплитуды «коллапсировать» в наблюдаемые величины. Другие во главе с Вернером Гейзенбергом отстаивали антиреалистическую точку зрения, согласно которой физика описывает наши состояния знания, а не какую-либо объективную реальность. Ещё одна традиция копенгагенской школы, выраженная в лозунге «заткнись и считай», предостерегала от любых метафизических спекуляций.

Юдковский использует этот научный спор в качестве испытательного полигона для некоторых ключевых идей из предыдущих цепочек: различения карты и территории, таинственных ответов, байесианства и бритвы Оккама. Поскольку он не физик — как и я, — я приведу здесь несколько сторонних источников для читателей, которые хотят проверить его аргументы или поближе познакомиться с его примерами из физики.

В книге Тегмарка «Наша математическая вселенная» обсуждается ряд важных идей из области философии и физики.5 Среди наиболее оригинальных идей Тегмарка — его аргумент о том, что существуют все математически непротиворечивые