Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

ошибиться в среднем лишь однажды. Возможно, для «2 + 2 = 4» столь исключительная степень уверенности и достижима: это утверждение чрезвычайно простое, одновременно математическое и эмпирическое, а также широко признанное в обществе (без страстного одобрения, а просто как нечто молчаливо само собой разумеющееся). Так что, пожалуй, здесь вы действительно могли бы дойти до уверенности в 99,99%.

Не думаю, что вы смогли бы достичь уверенности в 99,99% для таких утверждений, как «53 — простое число». Да, это кажется весьма вероятным, но если бы вы попытались разработать протоколы, которые позволили бы вам сделать 10 000 независимых заявлений такого рода — то есть не просто ряд утверждений о простых числах, а всякий раз новый протокол, — вы бы ошиблись больше одного раза. У Питера де Блана есть забавная история на этот счёт. (Я сказал ему больше так не делать.)

И всё же карта — не территория: если я говорю, что уверен на 99% в том, что 2 + 2 = 4, это не значит, будто я считаю, что равенство «2 + 2 = 4» верно с точностью до 99% или что «2 + 2 = 4» истинно в 99 случаях из 100. Суждение, в котором я выражаю уверенность, состоит в том, что «"2 + 2 = 4" истинно всегда и в точности», а не в том, что «"2 + 2 = 4" истинно по большей части и обычно».

Что касается представления о том, что можно достичь 100%-й уверенности в математическом суждении — ну в самом деле! Если вы заявляете о 99,9999% уверенности, вы тем самым утверждаете, что могли бы сделать миллион столь же рискованных заявлений одно за другим и ошибиться в среднем лишь однажды. Это примерно целый год непрерывных разговоров, если вы способны делать по одному утверждению каждые 20 секунд и говорить по 16 часов в день.

Заявите о 99,9999999999%-й уверенности, и вы поднимете ставку до триллиона. И теперь вы собираетесь говорить на протяжении ста человеческих жизней и ни разу не ошибиться?

Заявите об уверенности в (1 - 1/гуголплекс), и ваше эго далеко превзойдёт эго душевнобольных, считающих себя Богом.

А гуголплекс намного меньше даже относительно небольших невообразимо огромных чисел вроде 3 ↑↑↑ 3. Но даже уверенность в (1 - 1∕3 ↑↑↑ 3) ненамного ближе к ВЕРОЯТНОСТИ 1, чем 90%-я уверенность в чём-либо.

Если всё остальное бессильно, гипотетические Тёмные Владыки Матрицы, которые прямо сейчас вмешиваются в то, как ваш мозг оценивает достоверность вот этого самого предложения, преградят путь и защитят нас от бича бесконечной уверенности.

Абсолютно ли я уверен в этом?

Да конечно же нет.

Как однажды сказал Рафал Смигродский:

Я бы сказал, что вы должны иметь возможность присваивать степень уверенности меньше единицы даже тем математическим понятиям, которые необходимы для вывода самого правила Байеса, и всё же использовать его на практике. Я не вполне уверен, что должен всегда сомневаться. Возможно, в чём-то я могу быть уверен с полным на то основанием. Но стоит мне присвоить суждению вероятность 1, я уже никогда не смогу это отменить. Что бы я ни увидел и ни узнал, мне придётся отвергать всё, что противоречит этой аксиоме. Мне не нравится мысль, что я больше никогда не смогу изменить своё мнение.

*

55. 0 и 1 — это не вероятности.

Один, два и три — всё это целые числа, как и минус четыре. Если продолжать считать вверх или вниз, вы непременно встретите ещё множество целых чисел. Однако вы не встретите ничего под названием «положительная бесконечность» или «отрицательная бесконечность», так что они целыми числами не являются.

Положительная и отрицательная бесконечности — это не целые числа, а скорее особые символы для описания поведения целых чисел. Люди иногда говорят что-то вроде «5 + бесконечность = бесконечность», ведь если начать с пяти и продолжать считать вверх без остановки, вы будете получать всё большие и большие числа без всякого предела. Но из этого не следует, что «бесконечность - бесконечность = 5». Вы не можете бесконечно считать вверх от нуля, а затем бесконечно считать вниз, а закончив, обнаружить себя в точке 5.

Из этого видно, что бесконечность не просто не является целым числом — она даже не ведёт себя как целое число. Если вы опрометчиво попытаетесь смешать бесконечности с целыми числами, вам понадобятся всевозможные новые, кажущиеся противоречивыми особенности поведения, которые не нужны для 1, 2, 3 и других настоящих целых чисел.

И пусть бесконечность не целое число, вам не стоит беспокоиться, что вы останетесь без чисел. Хотя люди и видели пять овец, миллионы песчинок и септиллионы атомов, никто никогда не насчитал бесконечность чего бы то ни было. То же самое и с непрерывными величинами: люди измеряли пылинки размером в миллиметр, животных размером в метр, города протяженностью в километры и галактики размером в тысячи световых лет, но никто никогда не измерял ничего бесконечного в размерах.

В реальном мире вам не нужно так уж много бесконечности.

(Должен заметить для более искушенных читателей, что им нет нужды писать мне пространные объяснения, скажем, разницы между ординальными и кардинальными числами. Да, я знаком с различными сложными теоретико-множественными определениями бесконечности, но не вижу им хорошего применения в теории вероятностей. См. ниже.)

При обычном способе записи вероятности лежат в диапазоне от 0 до 1. Монета может иметь вероятность выпадения решки 0,5, а синоптик может оценить вероятность завтрашнего дождя в 0,9.

Однако это не единственный способ представления вероятностей. Например, вы можете преобразовать вероятности в шансы по формуле O = (P∕(1 - P)). Таким образом, вероятность в 50% превратится в шансы 0,5/0,5, или 1 (обычно записывается как 1:1), в то время как вероятность 0,9 превратится в шансы 0,9/0,1, или 9 (обычно записывается как 9:1). Чтобы перевести шансы обратно в вероятности, используется формула P = (O∕(1 + O)), и этот переход абсолютно обратим, так что данное преобразование представляет собой изоморфизм — взаимно однозначное двустороннее отображение. Таким образом, вероятности и шансы изоморфны, и вы можете использовать то или другое в зависимости от удобства.

Например, шансы удобнее использовать при байесовском обновлении. Допустим, я бросаю шестигранный кубик: если выпадает любая грань, кроме единицы, вероятность услышать звонок составляет 10%, но если выпадает единица, вероятность услышать звонок равна 20%. Я бросаю кубик и слышу звонок.