Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Я не собираюсь говорить банальности вроде: «Каждый должен хотя бы раз в жизни сделать что-то невозможное, потому что это даёт важный урок». Большинству людей всё время и всем людям большую часть времени стоит придерживаться возможного.

Никогда не сдаваться? Не смешите меня. Попытки сделать невозможное следует приберечь для самых особых случаев. Умение понимать, когда пора оставить надежду, — важный жизненный навык.

Но если вы можете представить себе нечто даже худшее, чем растраченная впустую жизнь, если вы хотите чего-то, что важнее тридцати фишек, или если для вас существуют вещи пострашнее, чем жизнь, полная неудобств, то у вас могут быть основания попытаться совершить невозможное.

О преодолении трудностей можно сказать много хорошего; но среди прочего необходимо признать: упорство действительно оставляет жизнь трудной. Если вы к этому не готовы — держитесь подальше! Есть куда более простые способы завоевать престиж и уважение. Я не хочу, чтобы кто-то, прочитав это, без нужды очертя голову бросился в жизнь, полную постоянных трудностей.

Но в заключение: «упорство», необходимое для работы над важными проблемами, включает в себя нечто большее, чем просто труд по 14 часов в сутки.

Удивительно, как именно устроена избирательность в том, что мы замечаем и чего не замечаем в себе. Эта избирательность далеко не всегда направлена на то, чтобы приукрасить свой собственный образ. Иногда дело просто в обычной заметности.

Продолжать работу для меня было постоянной борьбой, поэтому это было столь заметно: я обращал внимание на то, что не могу работать по 14 часов подряд каждый день. Мне и в голову не приходило, что «упорство» может также проявляться на масштабе секунд или лет — пока я не увидел людей, которые мгновенно объявляли «невозможным» всё, что им не хотелось пробовать, или не заметил, с какой неохотой они берутся за дело, если оно обещает затянуться на пару десятилетий вместо «пяти лет».

Именно тогда я понял, что «упорство» применимо к самым разным временным масштабам. В масштабе секунд упорство означает «не сдаваться мгновенно при первом же признаке трудности». В масштабе лет упорство — это «продолжать работу над безумно сложной задачей, пусть даже это неудобно, а в другом месте вы могли бы получать куда большую личную выгоду».

Чтобы делать то, что крайне сложно или «невозможно»,

Сначала нужно не сбежать. На это уходят секунды.

Затем нужно работать. На это уходят часы.

Затем нужно не бросать начатое. На это уходят годы.

Из них первому мне пришлось учиться, чтобы делать это надёжно, а не от случая к случаю; второе для меня всё ещё постоянная борьба; а третье даётся само собой.

*

309. Приложите экстраординарное усилие.

Для человека крайне важно стремиться всем сердцем и понимать, что трудно достичь даже среднего уровня, если у него нет намерения превзойти других во всем, что бы он ни делал.

—Будосёсинсю1

В важных делах «сильное» усилие обычно дает лишь посредственные результаты. Когда мы пытаемся сделать что-то действительно стоящее, наши усилия должны быть такими, словно на кону стоит наша жизнь, как если бы мы подверглись физическому нападению! Именно это экстраординарное усилие — усилие, выводящее нас за пределы того, на что, как мы думали, мы способны, — обеспечивает победу в бою и успех в жизненных начинаниях.

—Сверкающая сталь: овладение искусством владения мечом Эйсин-рю2

«„Сильное“ усилие обычно дает лишь посредственные результаты» — я видел это снова и снова. Достаточно малейшего усилия, чтобы убедить себя в том, что мы сделали все возможное.

Существует уровень за пределами добродетели цуёку наритай («я хочу стать сильнее»). Иссёкэнмэй изначально выражало преданность, которую самурай предлагал в обмен на свой надел, и содержало иероглифы «жизнь» и «земля». Позже это понятие стало означать «отчаянное усилие»: стараться изо всех сил, делать все возможное, как если бы на кону стояла жизнь. Это было частью гештальта бусидо, которое не ограничивалось одними лишь сражениями. Мне попадались варианты написания иссё кэнмэй и иссёо кэнмэй; один источник указывает, что первый вариант означает предельное усилие в каком-то одном вопросе, тогда как второй — пожизненное стремление.

Я стараюсь не слишком перехваливать Восток, потому что Запад узнаёт об элементах восточной культуры крайне избирательно. Но по крайней мере в некоторых аспектах культура Японии превосходит американскую. Наличие удобной компактной фразы для «отчаянного, предельного усилия, как будто на кону стоит твоя жизнь» — один из таких аспектов. Это то, что японский родитель мог бы сказать ученику перед экзаменами — но не думайте, что это дешевое лицемерие, каким оно было бы в устах американского родителя. В Японии к экзаменам относятся очень серьезно.

Время от времени кто-нибудь спрашивает, почему люди, называющие себя «рационалистами», кажется, не всегда добиваются в жизни гораздо большего успеха, и, судя по моей собственной истории, ответ прост: требуется огромное количество рациональности, прежде чем вы перестанете совершать чертовски глупые ошибки.

Как я уже упоминал пару раз: Роберт Ауманн, нобелевский лауреат, который первым доказал, что байесианцы с одинаковыми априорными оценками не могут «согласиться не соглашаться», — верующий ортодоксальный иудей. Разумеется, он понимает математический аппарат теории вероятностей, но этого недостаточно, чтобы спасти его. Что же еще нужно? Изучение эвристик и когнитивных искажений? Социальная психология? Эволюционная психология? Да, но кроме того требуется иссёкэнмэй, отчаянное усилие быть рациональным — чтобы подняться выше уровня Роберта Ауманна.

Иногда я задумываюсь, не стоило ли мне продвигать рациональность в Японии, а не в США — но Япония не превосходит Соединенные Штаты в научном плане, несмотря на более прилежных учеников. Японцы сегодня не правят миром, хотя в 1980-х годах многие подозревали, что так оно и будет (отсюда японский финансовый пузырь). Почему же так?

На Западе есть поговорка: «Смазывают то колесо, которое скрипит».

В Японии аналогичная поговорка гласит: «Торчащий гвоздь забивают».

Это вряд ли оригинальное наблюдение с моей стороны, но предпринимательство, готовность рисковать, умение отделяться от толпы — все это по-прежнему преимущества Запада перед Востоком. И поскольку японские ученые пока не превосходят американских, это, по-видимому, имеет не меньшее значение, чем отчаянные усилия.

Любой, кто может собраться с силами на тридцать секунд, способен сделать отчаянное усилие, чтобы поднять больший вес, чем обычно. Но что, если вес, который нужно поднять, — это грузовик? Тогда отчаянных усилий будет недостаточно; чтобы преуспеть, вам придется сделать что-то из ряда вон выходящее. Возможно, вам