Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Я был даже немного разочарован тем, что никто в аудитории не вскочил и не воскликнул: «Да! Да, именно! Конечно! Всё это время это действительно был Байес!»

Но, возможно, не так уж захватывающе видеть, как нечто, не выглядящее байесовским на первый взгляд, оказывается Байесом в хитрой маскировке, если: (а) вы не распутали эту тайну сами, а лишь прочитали о том, как это сделал кто-то другой (Ньютону явно было веселее, чем большинству студентов, изучающих математический анализ), и (б) вы не осознаёте, что поиск скрытой байесовской структуры — это масштабный, трудный и вездесущий квест, подобный поискам Святого Грааля.

Для каждой грани познания этот квест свой, но Грааль в итоге всегда оказывается одним и тем же. Однако это должен быть тот самый Грааль — и притом весь Грааль, целиком, без утерянных фрагментов. Поэтому каждый раз вам нужно отправляться на поиски в надежде найти полный ответ, какую бы форму он ни принял, а не пытаться искусственно соорудить смутные, притянутые за уши «граалеподобные» аргументы. Тогда в конце вы обязательно найдёте тот самый Святой Грааль.

Ранее мне уже указывали на то, что длинными эссе я могу растерять часть читателей, поскольку «не обозначил чётко, к чему клоню» . . .

. . . но не так-то просто взять и сказать людям, куда вы направляетесь, когда ваш путь лежит в подобные края.

Мало пользы в том, чтобы просто знать, что некая форма познания является байесовской, если вы не знаете, как именно она ею является. Если вы не видите детальных потоков вероятности, у вас нет ничего, кроме пароля — или, выражаясь мягче, намёка на то, какую форму примет ответ, но уж точно не самого ответа. Вот почему существует Великий Квест в поисках скрытой байесовской структуры, а не так, что выкрикнул «Байес!» — и дело сделано. Байесовская структура может быть зарыта под любыми личинами, скрыта за дебрями колёс и шестерёнок, замаскирована свистелками и погремушками.

Чтобы начать понимать суть Квеста в поисках Святого Байеса, представьте, что вы узнаёте о когнитивном феномене XYZ, который кажется невероятно полезным. При этом существует куча философов, которые веками спорят о его истинной природе и продолжают спорить по сей день, а также группа специалистов по ИИ, пытающихся заставить компьютер делать то же самое, но они тоже не могут сойтись во мнениях касательно философии —

И — хм, как странно! — этот когнитивный феномен на первый взгляд ни капли не походил на байесовский, но под ним обнаруживается неочевидная глубинная структура, имеющая байесовскую интерпретацию... но постойте, там всё ещё совершается какая-то полезная работа, которую нельзя объяснить в байесовских терминах... нет, погодите, она тоже байесовская! БОЖЕ МОЙ, а вот этот совершенно другой когнитивный процесс, который тоже не выглядел байесовским на первый взгляд, ТОЖЕ ИМЕЕТ БАЙЕСОВСКУЮ СТРУКТУРУ! Секунду, а делают ли эти небайесовские части вообще хоть что-нибудь?

Да: вау, они тоже байесовские!

Нет: боже правый, какая нелепая конструкция. Да я мог бы сожрать ведро аминокислот и выблевать архитектуру мозга получше этой.

Стоит этому случиться с вами несколько раз, как вы начинаете улавливать этот ритм. Именно о нём я здесь и говорю — о ритме.

Пытаться говорить о ритме — всё равно что танцевать об архитектуре.

Это ставило меня в довольно затруднительное положение, когда дело доходило до попыток заранее объяснить, к чему я клоню. Я знаю по опыту: если я скажу: «Байес — это тайна Вселенной», одни ответят: «Да! Байес — тайна Вселенной!», а другие фыркнут: «Как же ты узколоб; посмотри на все эти другие ситуативные, но потрясающе полезные методы вроде регуляризованной линейной регрессии, которые есть у меня в арсенале».

Я надеялся, что имея на руках конкретный пример «чего-то, что на первый взгляд не кажется байесовским, но в итоге им оказывается» — а также объяснение разницы между паролями и знанием — и объяснение разницы между инструментами и законами — быть может, тогда мне удастся передать хотя бы ту часть ритма, которую можно уловить, не отправляясь в этот квест лично.

Разумеется, это не вся Тайна Байесовского заговора, но это всё, что я могу передать на данном этапе. К тому же, секрет целиком известен лишь Совету Байеса, и если бы я вам его рассказал, мне пришлось бы нанять вас.

Видеть сквозь поверхностную бессистемность когнитивного процесса байесовскую структуру под ней — воспринимать вероятностные потоки и знать, как именно, а не просто знать, что это познание тоже байесовское — как всегда и бывает — как всегда и должно быть — уметь чувствовать Силу, лежащую в основе любого познания, — это и есть Байесовское зрение.

«…И королева Кашфы видит Оком Змея».

— Не знаю, видит ли она им, — сказал я. — Она всё ещё оправляется после операции. Но это интересная мысль. Если бы она могла видеть им, что бы она узрела?

— Полагаю, чистые, холодные линии вечности. Под всеми Тенями.

— Роджер Желязны, «Принц Хаоса»1

*

1. Роджер Желязны, «Принц Хаоса» (Thorndike Press, 2001).

Часть P. Азы редукционизма.

189. Растворение вопроса. «Если дерево падает в лесу, но никто этого не слышит, издаёт ли оно звук?»

Я не стал отвечать на этот вопрос. Я не стал выбирать позицию «Да!» или «Нет!» и защищать её. Вместо этого я перешёл к деконструкции человеческого алгоритма обработки слов, дойдя даже до того, что набросал схему нейронной сети. В итоге, я надеюсь, от вопроса не осталось и следа — даже самого ощущения вопроса.

Многим философам — особенно философам-любителям и древним философам — присущ опасный инстинкт: если задать им вопрос, они пытаются на него ответить.

Как, например: «Есть ли у нас свобода воли?»

Опасный инстинкт философии велит выстроить аргументы «за», выстроить аргументы «против», взвесить их, опубликовать всё это в престижном философском журнале и в итоге прийти к выводу: «Да, у нас должна быть свобода воли» или «Нет, у нас никак не может быть свободы воли».

Некоторые философы достаточно мудры, чтобы вспомнить предупреждение: большинство философских споров на самом деле являются спорами о значении слов или путаницей, возникшей из-за использования разных значений одного и того же слова в