Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

о «фундаментальных», заключается в недостатке самопознания наших собственных нейронов — в том, что причудливая рефлексивная архитектура нашего разума выставляет напоказ класс «убеждений», но скрывает стоящие за ним механизмы.

Тем не менее, обнаружение передачи информации между мозгами в отсутствие какой-либо известной материальной связи между ними с точки зрения вероятности является привилегированным предсказанием сверхъестественных моделей (тех, что содержат онтологически базовые ментальные сущности). Просто потому, что в этом случае гораздо проще ввести новый закон, связывающий убеждения разных разумов, по сравнению со «скучной» моделью, где убеждения — это сложные конструкции из нейронов.

Надежда на экстрасенсорные способности возникает из рассмотрения убеждений и желаний как достаточно фундаментальных объектов, способных иметь непосредственные связи с реальностью. Если убеждения — это паттерны нейронов, состоящих из известного материала, с входящими сигналами от органов чувств вроде глаз, построенных из известного материала, и с исходящими сигналами через мышцы, построенные из известного материала, и этого, по-видимому, достаточно для объяснения всех известных ментальных способностей человека, то нет причин ожидать чего-то большего — нет причин постулировать дополнительные связи. Вот почему редукционисты не ждут проявления экстрасенсорных способностей. Таким образом, наблюдение экстрасенсорных способностей послужило бы сильным свидетельством в пользу сверхъестественного в понимании Ричарда Кэрриера.

У нас есть правило Оккама, которое подсчитывает количество онтологически базовых классов и онтологически базовых законов в модели и штрафует за избыток сущностей. Если натурализм верен, то попытка считать «убеждение» или «отношение между убеждением и реальностью» единой базовой сущностью — это просто ошибочный антропоморфизм; мы поддаемся этому соблазну лишь из-за причуд внутренней архитектуры нашего мозга. Но если вы просто примете эту ошибочную точку зрения, то она припишет экстрасенсорным способностям гораздо более высокую вероятность, чем натурализм, поскольку вы сможете реализовать экстрасенсорные способности с помощью внешне более простых законов.

Отсюда следует, что реальное обнаружение экстрасенсорных способностей означало бы, что наивно-человеческое правило Оккама на самом деле было откалибровано лучше, чем сложное натуралистическое правило Оккама. Это свидетельствовало бы о том, что редукционисты все это время заблуждались, пытаясь разобрать мозг на части; что то, что наш разум представлял как кажущийся простым рычаг, в действительности и было простым рычагом. Наивные дуалисты оказались бы правы с самого начала, и именно поэтому их древнее желание получило бы возможность исполниться.

Таким образом, телепатия, способность влиять на события одним лишь желанием и предвидение — все это в случае обнаружения стало бы сильным байесовским свидетельством в пользу гипотезы о том, что убеждения онтологически фундаментальны. Не логическим доказательством, но сильным байесовским свидетельством.

Если редукционизм верен, то любая научно-фантастическая история, содержащая экстрасенсорные способности, может быть сгенерирована системой простых элементов (то есть мозгом автора истории); но если мы на самом деле обнаружим экстрасенсорные способности, это сделает гораздо более вероятным, что происходят события, которые в действительности невозможно описать редукционистскими моделями.

Иными словами: существование экстрасенсорных способностей — это привилегированное вероятностное утверждение нередукционистских мировоззрений; им принадлежит это опережающее предсказание; они придумали и выдвинули его вопреки ожиданиям редукционистов. Так что по законам науки, если экстрасенсорные способности будут обнаружены, нередукционизм победит.

Поэтому я с уверенностью отвергаю экстрасенсорные способности как априори неправдоподобные, вопреки всем заявлениям о наличии подтверждающих их экспериментальных данных.

*

Часть S. Квантовая физика и многие миры.

229. Квантовые объяснения.

Широко распространено мнение, что квантовая механика должна быть запутанной. Это не лучший настрой ни для преподавателя, ни для студента.

И я нахожу, что легендарно «запутанные» темы часто не так уж сложны с точки зрения математики, особенно если вы просто хотите получить самое базовое — но все же математическое — представление о том, что там происходит.

Я не физик, а физики, как известно, терпеть не могут, когда непрофессионалы рассуждают о квантовой механике. Но у меня есть некоторый опыт объяснения математических вещей, которые якобы «трудны для понимания».

Я написал «Интуитивное объяснение байесовского рассуждения», потому что люди жаловались, будто теорема Байеса «контринтуитивна» — на самом деле она слыла контринтуитивной — и это казалось неправильным. Уравнение просто не выглядело настолько сложным, чтобы заслужить столь пугающую репутацию. Поэтому я попытался объяснить его по-своему, и хотя мне не удалось достичь первоначальной цели — сделать его понятным для учеников начальной школы, я регулярно получаю благодарные письма от ранее пребывавших в недоумении людей, от репортеров до профессоров колледжей из других научных областей.

Кроме того, как байесовец, я не верю в явления, которые запутанны по своей природе. Запутанность существует в наших моделях мира, а не в самом мире. Если тема широко известна как запутанная, а не просто сложная... на этом нельзя останавливаться. Это не дает приемлемого результата; в таком положении нельзя оставаться. Возможно, вы сможете решить проблему, возможно, нет; но вы не должны быть рады тому, что оставляете студентов в замешательстве.

Первое отличие моего введения от традиционного, стандартного введения в квантовую механику состоит в том, что я не собираюсь говорить вам, будто квантовая механика должна быть запутанной.

Я не буду говорить вам, что не понимать квантовую механику — это нормально, потому что «никто не понимает квантовую механику», как однажды заявил Ричард Фейнман. Было историческое время, когда это было правдой, но мы больше не живем в ту эпоху.

Я не буду говорить вам: «Вы не понимаете квантовую механику, вы просто к ней привыкаете». (Как, по слухам, сказал фон Нейман; в те темные десятилетия, когда ее и в самом деле никто не понимал.)

Объяснения должны рассеивать ваше замешательство. Если вы чувствуете, что чего-то не понимаете, это указывает на проблему — либо у вас, либо у вашего учителя — но в любом случае на проблему; и вам следует двигаться к тому, чтобы ее разрешить.

Я не буду говорить вам, что квантовая механика странная, причудливая, запутанная или чуждая. Квантовая механика контринтуитивна, но это проблема ваших интуиций, а не квантовой механики. Квантовая механика существовала еще за миллиарды лет до того, как Солнце сконденсировалось из межзвездного водорода. Квантовая механика была здесь до вас, и если у вас с этим проблемы, то измениться нужно вам. Квантовая механика уж точно меняться не будет. Не существует удивительных фактов, есть только модели, которые удивляются фактам; и если модель удивляется фактам, это делает ей мало чести.

Всегда лучше считать реальность абсолютно нормальной. С самого начала времен не случилось ни одной необычной вещи.

Цель