Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Искусство, додзё и сенсей почитаются как священные. «Красный лак на ногтях ног в додзё — это всё равно что прийти в церковь в мини-юбке и открытом топе... Об адептах других боевых искусств говорят так, словно они исповедуют ложную религию».

Если учитель отводит вас в сторону и обучает секретному приему, а вы затем отрабатываете его двадцать лет, вы эмоционально очень сильно в него вкладываетесь и захотите отбрасывать любые поступающие свидетельства против этого приема.

У новых учеников выбор невелик: боевому искусству не научишься по книге, поэтому им приходится доверять учителю.

Почтение к знаменитым мастерам прошлого. «Бегуны считают, что современные сотрудники Runner’s World знают о беге больше, чем все древние греки вместе взятые. И дело не только в беге или иных физических дисциплинах, где историю ставят на подобающее ей место; то же самое верно для любой развитой области знаний. Никто не сочтёт за неуважение, если физик скажет, что теории Исаака Ньютона ошибочны...» (Знакомо звучит?)

«Мы, адепты боевых искусств, страдаем от своего рода бедности — бедности данных, из-за которого наши убеждения трудно проверить... Если только вам не выпало несчастье участвовать в рукопашной войне, вы не можете проверить, какое именно усилие и под каким углом требуется, чтобы сломать человеку шею...»

«Если вы не можете проверить эффективность самой техники, то сложно оценить и методы её улучшения. Стоит ли отрабатывать нукитэ по воздуху, или это лишь приучит вас слишком сильно тянуться за ударом?... Наша неспособность проверять боевые методы ограничивает наши возможности проверять методы тренировок».

«Но настоящая проблема не в том, что мы живем в условиях бедности данных — полагаю, это справедливо и для некоторых вполне почтенных дисциплин, включая теоретическую физику, — а в том, что мы живем в бедности, но продолжаем вести себя так, будто купаемся в роскоши, словно можем безбоязненно позволить себе верить всему, что нам говорят...» (+10!)

Кое-что из того, что, как мне помнилось, было в этом эссе, при повторном чтении там не обнаружилось — а именно рассуждения о деградации боевых искусств после прекращения реальных схваток. Под реальными схватками я имею в виду бои, где соперники действительно пытались покалечить друг друга и кого-то время от времени убивали.

В те времена люди имели представление о том, кто действительно является мастером и какая школа способна одолеть соперников.

А затем все стало слишком цивилизованным. И всё покатилось по наклонной — до такой степени, что теперь на YouTube можно найти видео, где мнимых обладателей чёрных поясов N-го дана вколачивает в землю кто-то, у кого есть реальный боевой опыт.

Я слышал об одном таком случае, который был по-настоящему печален: мастер одной из школ был убежден, что владеет техниками бесконтактного боя с использованием энергии ки. Его ученики и в самом деле падали, когда он атаковал их этой энергией — странный, удивительный и пугающий пример самогипноза или чего-то в этом роде... Но затем мастер вышел против скептика и, разумеется, был буквально вбит в пол.

Не зря говорят, что знание о том, «как не проиграть», применимо в гораздо более широком спектре ситуаций, чем знание о том, «как победить». Каждый из этих факторов риска без изменений переносится на любую попытку открыть «додзё рациональности». И я задаю вам вопрос: что с этим можно сделать?

*

1. Джиллиан Рассел, «Эпистемическая порочность в боевых искусствах», в сборнике «Боевые искусства и философия: Избиение и ничто», под ред. Грэма Приста и Дэймона А. Янга (Open Court, 2010).

315. Школы, множащиеся без доказательств.

Робин Доус, автор одной из основополагающих статей в «Суждениях в условиях неопределенности» и книги «Рациональный выбор в неопределенном мире» — один из немногих, кто действительно пытается перенести эти результаты в реальную жизнь, — также является автором книги «Карточный домик: Психология и психотерапия, построенные на мифах».

Из «Карточного домика», глава 1:1

Профессиональные способности этих специалистов были подвергнуты эмпирической проверке — например, их эффективность как терапевтов (глава 2), их проницательность в отношении людей (глава 3) и связь между качеством их работы и опытом работы в данной области (глава 4). Практически все исследования — а в этой книге приводится более трехсот эмпирических исследований и их обзоров — показали, что претензии этих профессионалов на превосходную интуитивную проницательность, понимание и терапевтическое мастерство попросту несостоятельны...

Помните тест чернильных пятен Роршаха? Это столь привлекательная идея: пациент смотрит на чернильное пятно и говорит, что видит, а психотерапевт на основе этого интерпретирует его психологическое состояние. Проводились сотни экспериментов в поисках доказательств того, что это действительно работает. Раз уж вы читаете это, то можете догадаться, что ответ — простое «Нет». И все же тест Роршаха по-прежнему используется. Это просто настолько хорошая история, что психотерапевты просто не могут заставить себя поверить в огромные горы экспериментальных данных, говорящих о том, что он не работает, —

— что красноречиво говорит о том, с какой областью мы имеем дело.

И экспериментальные результаты по этой области в целом соответствуют этой картине. Да, известно, что пациенты, посещающие психотерапевтов, выздоравливают быстрее, чем те, кто вообще ничего не делает. Но между многочисленными школами психотерапии нет статистически значимой разницы. Нет и ощутимой пользы от многолетнего опыта.

Кроме того, нет никакой заметной разницы между визитом к психотерапевту и тем, чтобы провести то же время за разговором со случайно выбранным университетским профессором из другой области. По всей видимости, человеку становится лучше просто от разговора с кем угодно.

При полном отсутствии каких-либо экспериментальных доказательств их эффективности психотерапевты начали получать государственные лицензии, их показания стали принимать в суде, их учебные заведения аккредитовали, а их счета стали оплачиваться медицинским страхованием.

А еще в психотерапии начали плодиться многочисленные «школы» и практические традиции; вопреки — или, возможно, благодаря — отсутствию каких-либо экспериментов, показывающих, что одна школа лучше другой...

Как-нибудь в другой раз мне действительно стоит побольше написать обо всем том грустном, что это говорит о нашем мире. О том, что суть медицины в представлении общества и судов заключается вовсе не в наборе процедур со статистически доказанной лечебной эффективностью, а, скорее, в правильной ауре авторитетности.

Но наша тема сейчас — размножение традиций в психотерапии. Насколько я могу судить, именно так в этой области и зарабатывали авторитет — не путем открытия потрясающего нового метода,