Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

на него с сардоническим интересом. Хуже того, Хирива действительно выжидающе смотрела на него, полагая, что он примет этот вызов. А Джеффриссай таращил глаза, ожидая от гуру слов мудрости. Иди ты к чёрту, сэнсэй.

Бреннан не паниковал. Это было очень, очень, очень далеко от самой пугающей ситуации, в которой он когда-либо оказывался. Ему потребовалось мгновение, чтобы решить, как именно думать, а затем он начал думать.

Спустя четыре минуты и тридцать секунд Бреннан заговорил. (В подобных вещах крылось своего рода искусство: раз уж всё равно приходится это делать, то пусть это выглядит легко.)

— Одна мудрая женщина, — сказал Бреннан, — как-то сказала мне, что разумнее всего считать себя в прошлом безнадёжными дураками — видеть в тех, кем мы когда-то были, круглых идиотов. Я не обязательно сам так считаю, но именно это она мне сказала, и в этом есть не просто доля истины. Пока мы ищем оправдания для прошлого, пытаясь выставить его в лучшем свете, уважая его, мы не можем совершить решительный разрыв. Мне пришло в голову, что для человеческих цивилизаций это правило может быть точно таким же. Поэтому я попробовал оглянуться назад и взглянуть на учёных Элд как на обыкновенных дураков.

— Которыми они не были, — вставил Джеффриссай.

— Которыми они не были, — продолжил Бреннан. — По уровню чистого интеллекта они, без сомнения, превосходили меня. Но мне пришло в голову, что трудности в понимании того, где учёные Элд допустили ошибку, могли крыться в чрезмерном уважении к древним и легендарным именам. И это действительно привело к озарению.

— Довольно предисловий, Бреннан, — сказал Джеффриссай. — Если вы пришли к озарению, изложите его.

— Учёных Элд не учили... — Бреннан запнулся. — Нет, «необученные» — неподходящее слово. Их готовили не для тех задач. В те времена не существовало никаких Заговоров, никаких тайных истин; как только учёные Элд решали крупную проблему, они публиковали решение для всего мира и друг для друга. По-настоящему пугающие и запутанные открытые проблемы оказывались крайне редким ресурсом и исчерпывались в тот же миг, когда их решали. Поэтому подготовить исследователей Элд наводить порядок в научном хаосе было невозможно. Их обучали чему-то другому — я не уверен чему именно...

— Их учили работать с научными знаниями, которые уже были открыты, — сказал Тадзи. — Для преподавателей Элд и без того было достаточно сложной задачей научить студентов использовать существующие знания или следовать уже известным методологиям; это всё, что стремились передать преподаватели науки Элд.

Бреннан кивнул. — А ведь это совсем другое дело, нежели создавать собственную, принципиально новую науку. Учёные Элд, столкнувшись с проблемами квантовой теории, возможно, никогда прежде не испытывали подобного страха — смятения от незнания. Учёные Элд могли преждевременно хвататься за неудовлетворительные ответы просто потому, что привыкли работать со стройным, общепринятым сводом знаний.

— Хорошо, Бреннан, — пробормотал Джеффриссай.

— Но главное, — продолжил Бреннан, — учёный Элд не мог потренироваться на реальной проблеме, с которой столкнулись создатели квантовой физики — проблеме преодоления глубокого замешательства. Такое случалось раз в жизни, да и то если везло, и, как заметила Хирива, Ньютона рядом уже не было. Так что хотя физики Элд, которые напортачили с квантовой теорией, не были глупыми людьми, они в самом буквальном смысле оставались дилетантами, импровизируя на ходу в процессе смены парадигмы.

— К тому же без теории вероятностей, — заметила Хирива. — Так что любой, кто действительно преуспел бы в решении этой проблемы, понятия не имел бы, как именно ему это удалось. И не смог бы передать этот опыт другим, разве что в самых общих чертах.

— Да, — подтвердил Стирлин. — И это была лишь горстка людей, которые вообще могли взяться за эту проблему без всякой подготовки; именно их имена и дошли до нас. Горстка людей, совершивших по несколько открытий каждый. Этого было недостаточно для поддержания научного сообщества. Каждому учёному Элд, приступающему к очередной смене парадигмы, приходилось заново открывать правила игры с нуля.

Джеффриссай поднялся из-за стола Бреннана. — Приемлемо, Бреннан. На самом деле, вы меня удивили. Мне нужно будет поразмыслить над этим вашим методом. — Джеффриссай подошёл к двери класса, затем обернулся: — Тем не менее, я имел в виду как минимум один другой крупный изъян науки Элд, который никто из вас не назвал. Завтра я рассчитываю получить список возможных изъянов. И рассчитываю увидеть в этом списке тот изъян, который я имею в виду. У вас есть 480 минут, не считая времени на сон. Я вижу здесь пятерых. Для решения этой задачи потребуется не более 480 озарений в сумме и не более 96 последовательных озарений.

И Джеффриссай вышел из класса.

*

244. Дилемма: наука или Байес? Эли: В последнее время ты много пишешь о физике. Почему? — Шейн Легг (и некоторые другие).

В свете вашего объяснения КМ, которое кажется мне абсолютно логичным, выглядит очевидным и естественным, что многомировая интерпретация чрезвычайно вероятна. Кажется почти слишком хорошим, чтобы быть правдой, что я теперь понимаю то, чего до сих пор не могут понять многие гениальные физики-квантовики. [ . . . ] Конечно, я могу легко от этого отмахнуться, да и всё ещё считаю, что вы правы, просто меня настораживает то, что я поверил первому же правдоподобному объяснению, которое встретил.

—Recovering_irrationalist

Recovering_irrationalist, ты даже не представляешь, как я был рад увидеть твой комментарий.

Конечно, у меня была не одна причина тратить столько времени на статьи о квантовой физике. Мне нравится иметь кучу скрытых мотивов. С этической точки зрения это самое близкое к роли суперзлодея, что я могу себе позволить.

Но если привести пример цели, которую я мог достичь только через обсуждение квантовой физики...

В физике можно столкнуться с абсолютно однозначными вопросами. Не в том смысле, что эти вопросы тривиально объяснить. Но если вы попытаетесь применить теорему Байеса к здравоохранению или экономике, то, возможно, не сможете формально изложить, какая гипотеза является простейшей или в пользу чего свидетельствуют факты. Но когда я говорю «макроскопическая декогеренция проще, чем коллапс», это на самом деле строгая простота; вы могли бы записать обе гипотезы в виде компьютерных программ и подсчитать количество строк кода. Да и сами свидетельства не оспариваются.

Мне нужен был предельно ясный пример — Байес говорит «зиг», а тут