Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Но вы можете лишь присоединиться к бунту после того, как кто-то где-то станет первым, кто взбунтуется. Кто-то должен сказать, что черное — это черное, выслушав, как все остальные, один за другим, говорят, что черное — это белое. И это, как показывает эксперимент, намного труднее.

Одинокое несогласие ощущается не так, словно вы пришли в школу во всем черном. Оно ощущается так, будто вы пришли в школу в костюме клоуна.

В этом и разница между тем, чтобы присоединиться к бунту, и тем, чтобы отбиться от стаи.

Если и есть что-то, чего я терпеть не могу, так это фальшь — вы, возможно, уже заметили. Так вот, одинокое несогласие — пожалуй, одно из самых часто и нарочито имитируемых качеств. Все хотят быть иконоборцами.

Я не хочу обесценивать сам акт присоединения к бунту. Есть бунты, к которым стоит примкнуть. Требуется мужество, чтобы встретить неодобрение своего круга общения или, что, пожалуй, еще хуже, их равнодушное пожимание плечами. Само собой разумеется, поход на рок-концерт — это не бунт. Но, к примеру, вегетарианство — вполне себе бунт. Сам я не вегетарианец, но уважаю тех, кто им является, поскольку полагаю, что требуется изрядная доля тихого мужества, чтобы объявить окружающим, что гамбургеры на ужин не подойдут. (Хотя в Районе Залива об этом спрашивают уже в порядке вещей.)

И все же, если вы скажете людям, что вы вегетарианец, они подумают, что понимают ваши мотивы (даже если это не так). Они могут не согласиться. Они могут обидеться, если вы преподнесете это с излишней гордостью, или, если уж на то пошло, они могут обидеться просто потому, что их легко обидеть. Но они знают, как к вам относиться.

Когда кто-то приходит в школу во всем черном, учителя и другие дети понимают роль, которую этот человек на себя берет в их сообществе. Это «Вне Системы» — самым стандартным образом, который все узнают и понимают. А не то чтобы, знаете ли, на самом деле вне системы. Это Вызов Стандартному Мышлению стандартного толка, так что люди с возмущением говорят: «Я не могу понять, почему ты...», но им при этом не приходится задумываться о том, о чём они никогда не думали раньше. Как говорится: «Заставила ли хоть какая-то из прочитанных вами "подрывных книг" изменить ваши политические взгляды?»

Что действительно требует настоящего мужества, так это столкнуться с полным непониманием окружающих, когда вы делаете что-то, что не является «Стандартным Бунтом № 37», что-то, для чего у них нет готового сценария. Вас не ненавидят как бунтаря, вас просто считают каким-то странным и отворачиваются. Подобная перспектива вызывает куда более глубокий страх. В этом и разница между тем, чтобы объяснять вегетарианство, и тем, чтобы объяснять крионику. Где-то в мире есть и другие сторонники крионики, но их нет рядом с вами. Вам приходится объяснять это в одиночку людям, которые считают это просто странным. Не запретным, а находящимся за рамками того, о чем люди вообще задумываются. Заморозить голову? И ты думаешь, это спасет тебя от смерти? Что значит «информация в мозге»? А? Что? Ты сумасшедший?

Велик соблазн попытаться дать постфактум эволюционно-психологическое объяснение: можно было собраться небольшой группой друзей и уйти из своего племени охотников-собирателей, но необходимость выживать в лесах в одиночку, скорее всего, означала смертный приговор — как минимум в репродуктивном плане. Мы не выстраиваем эти рассуждения явно, но эволюционная психология устроена иначе. Присоединиться к бунту, о котором все знают, страшно, но далеко не так страшно, как сделать что-то совсем по-другому. Что-то, что в первобытные времена могло закончиться не разделением племени, а вашим изгнанием в одиночку.

Как показывает пример с крионикой, страх мыслить по-настоящему иначе сильнее, чем страх смерти. Охотники-собиратели должны были регулярно сталкиваться со смертью лицом к лицу, охотясь на крупных млекопитающих или просто передвигаясь по миру, полному хищников. Это мужество было необходимо им для выживания. А вот мужество бросить вызов стандартным способам мышления племени, допускать мысли, которые кажутся по-настоящему странными — что ж, оно, вероятно, не приносило своим обладателям особой пользы. Мы не просчитываем это явно; эволюционная психология работает по-другому. Мы, люди, просто устроены так, что среди нас гораздо больше тех, кто прыгает с парашютом, чем тех, кто подписывает договор на крионику.

Но и это еще не высшая степень мужества. В мире есть не один сторонник крионики. Но только Роберту Эттингеру пришлось заявить об этом первым.

Чтобы стать научным революционером, вы должны первым пойти наперекор тому, что думают все ваши знакомые. Это не единственный путь к величию в науке; он редок даже среди великих. Никто не может стать научным революционером, пытаясь имитировать революционность. Прийти к этому можно лишь стремясь к правильному ответу во всем, независимо от того, революционен этот ответ или нет. Но если со временем — впитав в себя всю мощь и мудрость уже накопленных знаний, — если после всего этого и благодаря доле чистого везения вы обнаружите, что стремление к простой истине уводит вас на неизведанную территорию... вот тогда-то ваше мужество и может вам изменить.

В этом и заключается истинное мужество одинокого несогласия, которое пытается имитировать каждая чертова рок-группа.

Разумеется, не все, что требует мужества, — хорошая идея. Чтобы спрыгнуть с обрыва, тоже нужно мужество, но в итоге вы просто превратитесь в лепешку.

Страх одинокого несогласия мешает появлению хороших идей, но далеко не всякая бунтарская идея хороша. См. также эссе Робина Хэнсона «Против вольнодумцев». Главная сложность на пути к новой истинной научной мысли заключается в слове «истинная».

На самом деле вовсе не обязательно отличаться от других просто ради того, чтобы отличаться. Если вы будете поступать иначе только тогда, когда видите для этого чрезвычайно вескую причину, вам с лихвой хватит неприятностей на всю оставшуюся жизнь.

В мире есть несколько настоящих стай иконоборцев. Церковь Недомудреца, например, кажется, искренне стремится запутать обывателей, а не просто оскорбить их. И в мире существуют островки подлинной терпимости — например, конвенты любителей научной фантастики. Есть люди, которые совершенно не боятся отбиться от стаи. Их существует гораздо меньше, чем тех, кто воображает себя бунтарями, но они всё же есть. И тем не менее научные революционеры встречаются несравнимо реже. Подумайте над этим.

Вот я, знаете ли, действительно иконоборец. Все думают, что они такие, но в моём случае это