Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Представьте себе мир, очень похожий на наш, где благодаря технологиям генного отбора средний IQ равен 140 (по нашей шкале). Потенциальные Эйнштейны рождаются один на тысячу, а не один на миллион, и растут они в системе образования, приспособленной если и не под них лично, то хотя бы под способных детей. Математический анализ обычно преподают в шестом классе. Сам Альберт Эйнштейн жил и сделал примерно те же открытия, но его труды больше не кажутся исключительными. Несколько современных физиков экстра-класса совершили сопоставимые прорывы и до сих пор живы, готовые об этом поговорить.

(Нет, это не тот мир, в котором живёт Бреннан.)

В один прекрасный день звёзды на ночном небе начинают меняться.

Некоторые разгораются ярче. Некоторые тускнеют. Большинство остаются прежними. Астрономические телескопы фиксируют всё, мгновение за мгновением. Звёзды, которые меняются, меняют свою светимость по одной, совершенно отчётливо; само изменение светимости происходит за микросекунду, но между изменениями проходит целая секунда.

С того самого мгновения, как становится ясно, что меняется не одна звезда, очевидно: этот процесс ориентирован именно на Землю. Время прихода света от событий на множестве рассеянных по галактике звёзд рассчитано точно под положение Земли на её орбите. Вскоре с высокоорбитальных телескопов (они там есть) приходит подтверждение, что за пределами Земли эти астрономические чудеса не кажутся столь же синхронными. Только земные телескопы видят, как каждую секунду (точнее, каждые 1005 миллисекунд) меняется одна звезда.

Почти весь совокупный интеллект Земли переключается на анализ.

Быстро выясняется, что звёзды, чья светимость возрастает, становятся ровно в 256 раз ярче; те же, чья светимость падает, тускнеют ровно в 256 раз. В координатах звёзд нет видимой закономерности. Остаётся лишь простая последовательность: ЯРКИЙ-тусклый-ЯРКИЙ-ЯРКИЙ...

«Двоичное послание!» — такова первая мысль каждого.

Но в этом мире есть глубокие мыслители, к тому же пользующиеся огромным авторитетом, и они не так в этом уверены. «Если вы способны заставить звёзды мерцать и хотите пообщаться, есть куда более простые способы передать сообщение, — пишут они в своих блогах. — Происходит что-то из ряда вон выходящее. На первый взгляд кажется, что оно нацелено именно на Землю. Называть это „посланием“ — значит делать слишком много допущений о стоящей за этим причине. Возможно, среди... гм... сущностей, способных заставить звёзды мерцать, идёт некий эволюционный процесс, который в итоге как-то реагирует на разум... Да, за этим, вероятно, кроется нечто вроде „разума“, но попробуйте оценить, насколько широкий спектр возможностей это на самом деле подразумевает. Мы не знаем, послание ли это и было ли оно отправлено из тех же побуждений, какими руководствовались бы мы. В конце концов, мы бы просто подали сигнал с помощью огромного фонарика, а не стали бы устраивать кавардак во всей галактике».

К этому времени кто-то уже начал сопоставлять астрономические данные и выкладывать их в интернет. Предупреждения о том, что эти данные могут быть опасными, были... ну, не то чтобы проигнорированы, но следовать им никто не стал. «Если столь могущественная сила хочет причинить нам вред, мы в любом случае покойники», — рассуждают люди.

Множество исследовательских групп ищут закономерности в координатах звёзд, или в дробной части времени прихода сигналов относительно центра Земли, или в точной продолжительности изменения светимости, или в мельчайших отклонениях в силе блеска, или в любых других известных ранее фактах о звёздах до того, как они начали меняться. Но большинство людей обращает своё внимание на узор из ЯРКИХ и тусклых сигналов.

Практически сразу становится ясно, что передаваемый паттерн крайне избыточен. Из первых 16 бит 12 — ЯРКИЕ, а 4 — тусклые. Первые полученные 32 бита совпадают со вторыми 32 битами, отличаясь всего на 7 бит, а следующие 32 бита отличаются от вторых всего на 9 бит (причём 4 из них — это те же биты, что изменились ранее). Таким образом, уже по первым 96 битам ясно, что этот паттерн не является оптимальным, сжатым кодированием чего бы то ни было. Очевидная мысль заключается в том, что последовательность предназначена для передачи инструкций по декодированию последующего сжатого сообщения...

«Но, — говорят осторожные мыслители, — тот, кто заботился бы об эффективности и обладал достаточной силой, чтобы играть со звёздами, мог бы просто посигналить нам большим фонариком и прислать DVD-диск?»

Также кажется, что внутри 32-битных групп есть структура: некоторые 8-битные подгруппы встречаются чаще других, и эта структура проявляется только на естественных границах (32 = 8 + 8 + 8 + 8).

Спустя первые пять часов при скорости один бит в секунду обнаруживается дополнительная избыточность: начиная с 16 385-го бита сообщение начинает примерно повторяться.

Если разбить сообщение на группы по 32 бита, то между 1-й и 2-й группами будет различие в 7 бит, а между 1-й и 513-й — в 6 бит.

«Двумерная картинка! — думают все. — А четыре 8-битные группы — это цвета; они тетрахроматы!»

Но вскоре становится ясно, что здесь есть горизонтально-вертикальная асимметрия: в среднем между (N, N + 1) меняется меньше бит, чем между (N, N + 512). Чего нельзя было бы ожидать, будь сообщение двумерной картинкой, спроецированной на симметричную сетку. В таком случае среднее побитовое расстояние между двумя 32-битными группами должно было бы соответствовать 2-норме расстояния на сетке: √(h2 + v2).

Также складывается консенсус, что определённое двоичное кодирование из 8-битных групп в целые числа от -64 до 191 — не то двоичное кодирование, которое кажется очевидным нам, но всё же весьма регулярное — минимизирует среднее расстояние между соседними ячейками. Поступающие биты продолжают подтверждать эту гипотезу.

Статистики, криптографы, физики и специалисты по информатике принимаются за работу. Здесь есть структура, её нужно лишь распутать. Мастера причинности ищут условную независимость, экранирование и марковские окрестности среди битов и групп битов. Так называемый «цвет», судя по всему, играет роль в определении окрестностей и экранировании, так что это не просто эквивалент отражательной способности поверхности. Люди ищут простые уравнения, простые клеточные автоматы, простые деревья решений, способные предсказать или сжать сообщение. Физики изобретают совершенно новые физические теории, которые могли бы описать вселенные, спроецированные на сетку — ведь кажется вполне вероятным, что подобное сообщение отправлено из-за пределов Матрицы.

После получения 32 × 512 × 256 = 4 194 304 бит — примерно через полтора месяца — звёзды перестают мерцать.

Теоретическая работа продолжается. Физики и криптографы засучивают рукава и принимаются за дело всерьёз. Они решали задачи, располагая куда меньшим объёмом данных. Физики тестировали целые теоретические построения