Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

то внезапно «вероятность того, что яйцо содержит жемчужину», станет другой величиной; для синих яиц эта доля отличается от доли для всех яиц в целом. Данное — свойство, которое сужает наше внимание, — всегда находится с правой стороны от черты в выражении P(Q|P); P становится нашим миром, всем тем, что мы видим, а по другую сторону от «дано» вероятность P всегда равна 1 — именно это и означает принимать P как данное. Таким образом, P(Q|P) означает: «Если вероятность P равна 1, какова вероятность Q?» или «Если мы ограничим свое внимание только теми объектами или событиями, для которых P истинно, какова вероятность Q?» Утверждение Q, находящееся с другой стороны от условия, не является достоверным — его вероятность может быть и 10%, и 90%, и любым другим числом. Поэтому когда вы используете теорему Байеса и записываете левую часть уравнения как P(A|X) — то, как следует обновлять вероятность A после наблюдения X, — новую вероятность A при условии, что нам известно X, степень, в которой X влечет A, — вы понимаете, что X всегда является наблюдением или свидетельством, а A — исследуемым свойством, тем, о чем вы хотите узнать.

Правая часть теоремы Байеса выводится из левой части с помощью следующих шагов:

Как только вывод завершен, все условные вероятности в правой части уравнения принимают вид P(X|A) или P(X|¬A), в то время как условная вероятность в левой части равна P(A|X). Симметрия возникает из-за того, что элементарные причинно-следственные связи обычно представляют собой следствия, ведущие от фактов к наблюдениям (например, от рака груди к положительному результату маммографии). Элементарные шаги в рассуждениях обычно представляют собой следствия, ведущие от наблюдений к фактам (например, от положительного результата маммографии к раку груди). Левая часть теоремы Байеса — это элементарный выводной шаг от наблюдения положительного результата маммографии к выводу о повышенной вероятности рака груди. Логическое следствие записывается справа налево, поэтому в левой части уравнения мы пишем P(рак|положительный). Правая часть теоремы Байеса описывает элементарные причинно-следственные шаги — например, от рака груди к положительному результату маммографии, — и поэтому условные вероятности в правой части теоремы Байеса принимают вид P(положительный|рак) или P(положительный|¬рак).

И это — теорема Байеса. Рациональный вывод на левом конце, физическая причинность — на правом; уравнение, в котором разум находится с одной стороны, а реальность — с другой. Помните, как научный метод оказался частным случаем теоремы Байеса? Если выразиться поэтично, можно сказать, что теорема Байеса вплетает мышление в физическую вселенную.

Что ж, мы закончили.

Преподобный Байес говорит:

Теперь вы посвящены в Байесовский заговор.

*

1. Уорд Кассчеллс, Арно Шёнбергер и Томас Грабойс, «Interpretation by Physicians of Clinical Laboratory Results», New England Journal of Medicine 299 (1978): 999–1001.

2. Дэвид М. Эдди, «Probabilistic Reasoning in Clinical Medicine: Problems and Opportunities», в Judgement Under Uncertainty: Heuristics and Biases, под ред. Даниэля Канемана, Пола Словика и Амоса Тверски (Cambridge University Press, 1982).

3. Герд Гигерензер и Ульрих Хоффраге, «How to Improve Bayesian Reasoning without Instruction: Frequency Formats», Psychological Review 102 (1995): 684–704.

4. Там же.

5. Эдвин Т. Джейнс, «Probability Theory, with Applications in Science and Engineering», неопубликованная рукопись (1974).

Книга IV. Просто реальность. Мир: введение. О. Закономерная истина.

181. Всеобщий огонь

182. Всеобщий закон

183. Уродлива ли реальность?

184. Прекрасная вероятность

185. Вне лаборатории

186. Второй закон термодинамики и двигатели познания

187. Убеждения — вечные двигатели

188. Поиск байесовской структуры

P. Редукционизм 101

189. Растворение вопроса

190. Неправильные вопросы

191. Исправление неправильного вопроса

192. Ошибка проекции разума

193. Вероятность — в разуме

194. Цитата — не референт

195. Качественная путаница

196. Думай как реальность

197. Хаотическая инверсия

198. Редукционизм

199. Объяснение против развенчания

200. Фальшивый редукционизм

201. Поэты саванны

Q. Радость в просто реальном

202. Радость в просто реальном

203. Радость открытия

204. Связать себя с реальностью

205. Если требовать магии, магия не поможет

206. Обыденная магия

207. Красота устоявшейся науки

208. День потрясающих прорывов: 1 апреля

209. Является ли гуманизм заменителем религии?

210. Дефицит

211. Священная обыденность

212. Чтобы распространять науку, храните её в тайне

213. Церемония инициации

R. Физикализм 201

214. Рука против пальцев

215. Злые атомы

216. Тепло против движения

217. Прорыв в изучении мозга! Он состоит из нейронов!

218. Когда антропоморфизм стал глупостью

219. Априори

220. Редуктивная референция

221. Зомби! Зомби?

222. Ответы на зомби-аргумент

223. Обобщённый антизомби-принцип

224. ОАЗП против ГЛУТ

225. Вера в подразумеваемое невидимое

226. Зомби: фильм

227. Исключение сверхъестественного

228. Экстрасенсорные способности

S. Квантовая физика и многомирие

229. Квантовые объяснения

230. Конфигурации и амплитуда

231. Совместные конфигурации

232. Раздельные конфигурации

233. Постулаты коллапса

234. Декогеренция — это просто

235. Декогеренция опровержима и проверяема

236. Выделение гипотезы

237. Жизнь во многих мирах

238. Квантовый нереализм

239. Если бы многомирие появилось первым

240. Где философия встречается с наукой

241. Ты есть физика

242. Много миров, одна лучшая догадка

T. Наука и рациональность

243. Неудачи науки Элд

244. Дилемма: наука или Байес?

245. Наука не доверяет твоей рациональности

246. Когда наука не может помочь

247. Наука не достаточно строга

248. Разве учёные этого ещё не знают?

249. Нет надёжной защиты, даже в науке

250. Изменение определения науки

251. Быстрее, чем наука

252. Скорость Эйнштейна

253. То послание инопланетян

254. Мой кумир детства

255. Суперспособности Эйнштейна

256. Учебный проект

Интерлюдия: техническое объяснение технического объяснения

Мир: введение.

Роб Бензингер

В предыдущих эссе обсуждались человеческое мышление, язык, цели и социальная динамика. Математика, физика и биология привлекались