Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Невозможность достичь совершенства — не оправдание для того, чтобы не пытаться. Установите для себя высочайшие стандарты, какие только можете вообразить, и стремитесь к еще более высоким. Не довольствуйтесь ответом, который почти верен; ищите тот, который верен абсолютно.

Десятая добродетель — точность. Один приходит и говорит: величина лежит в пределах от 1 до 100. Другой говорит: величина лежит в пределах от 40 до 50. Если величина равна 42, оба они правы, но второе предсказание было более полезным и подвергло себя более строгой проверке. То, что верно для одного яблока, может быть неверно для другого; поэтому об одном конкретном яблоке можно сказать больше, чем обо всех яблоках мира. Самые узкие суждения режут глубже всего, они — острие клинка. Как и в случае с картой, так же обстоит дело и с искусством картографии: Путь — это точное Искусство. Не идите к истине шагом — танцуйте. На каждом шаге этого танца ваша стопа опускается точно в верную точку. Каждое свидетельство сдвигает ваши убеждения ровно на столько, на сколько нужно, — ни больше ни меньше. Какова эта точная мера? Чтобы рассчитать ее, вы должны изучать теорию вероятностей. Даже если вы не умеете производить эти расчеты, само знание о том, что математика существует, говорит вам: шаг в этом танце точен, и в нем нет места вашим капризам.

Одиннадцатая добродетель — ученость. Изучайте множество наук и впитывайте их силу, делая ее своей собственной. Каждая область знаний, которую вы поглощаете, делает вас больше. Если вы поглотите достаточно наук, пробелы между ними сократятся, и ваше знание станет единым целым. Если вы будете ненасытны, вы станете огромнее гор. Особенно важно поглощать математику и науки, соприкасающиеся с рациональностью: эволюционную психологию, эвристики и когнитивные искажения, социальную психологию, теорию вероятностей, теорию принятия решений. Но эти области не должны быть единственными, которые вы изучаете. У Искусства должна быть цель помимо него самого, иначе оно схлопнется в бесконечную рекурсию.

Прежде этих одиннадцати добродетелей идет добродетель, не имеющая имени.

Миямото Мусаси писал в «Книге пяти колец»:4

«Когда берешь в руки меч, главное — это твое намерение разрубить врага, какими бы ни были средства. Когда бы ты ни парировал, ни бил, ни отскакивал, ни наносил удар, ни касался разящего меча противника, ты должен разрубить врага тем же самым движением. Овладеть этим крайне важно. Если ты думаешь лишь о том, как бы ударить, отскочить, нанести удар или коснуться противника, ты не сможешь по-настоящему разрубить его. Больше всего прочего ты должен думать о том, чтобы провести свое движение до конца и разрубить его».

Каждый шаг твоих рассуждений должен тем же самым движением прорубать путь к верному ответу. Больше всего прочего ты должен думать о том, чтобы довести свою карту до верного отражения территории.

Если тебе не удается прийти к верному ответу, бесполезно протестовать, заявляя, что ты действовал по всем правилам.

Как ты можешь улучшить свое представление о рациональности? Не говоря себе: «Мой долг — быть рациональным». Этим ты лишь закрепишь свое ошибочное представление. Возможно, в твоем понимании рационально верить словам Великого Учителя, а Великий Учитель говорит: «Небо зеленое», и ты смотришь на небо и видишь синеву. Если ты думаешь: «Может показаться, что небо синее, но рациональность состоит в том, чтобы верить словам Великого Учителя», ты упускаешь шанс обнаружить свою ошибку.

Не спрашивай, предписывает ли «Путь» поступать так или иначе. Спрашивай, синее небо или зеленое. Если ты будешь слишком много говорить о Пути, ты его не обретешь.

Ты можешь пытаться дать высшему принципу такие имена, как «карта, отражающая территорию», «опыт успехов и неудач» или «байесовская теория принятия решений». Но, возможно, ты неверно описываешь безымянную добродетель. Как ты обнаружишь свою ошибку? Не сравнивая свое описание с ним самим, а сравнивая его с тем, что ты не назвал.

Если долгие годы ты практикуешь техники и подчиняешь себя строгим ограничениям, возможно, тебе приоткроется центр. Тогда ты увидишь, что все техники — это одна техника, и станешь двигаться правильно, не чувствуя себя скованным. Мусаси писал: «Когда ты постигнешь силу природы, зная ритм любой ситуации, ты сможешь атаковать врага естественно и наносить удары естественно. Все это — Путь Пустоты».

Таковы двенадцать добродетелей рациональности:

Любопытство, умение отпускать, легкость, беспристрастность, спор, эмпиризм, простота, смирение, перфекционизм, точность, ученость и пустота.

*

1. Патриция Ходжелл, «Маска искателя» (Meisha Merlin Publishing, Inc., 2001).

2. Кливер, «Мгновенная проза: полный курс писательского мастерства».

3. Антуан де Сент-Экзюпери, «Планета людей» (Paris: Gallimard, 1939).

4. Мусаси, «Книга пяти колец».

Книга VI. Становясь сильнее. Истоки. Введение. X. Взросление Юдковского.

292. Моя детская спираль смерти

293. Моя лучшая и худшая ошибка

294. Воспитанный в технофилии

295. Вундеркинд опровержения

296. Чистая глупость зелёной юности

297. Эта крошечная нотка диссонанса

298. Арьергардные бои против истины

299. Моё натуралистическое пробуждение

300. Уровень выше моего

301. Масштаб его собственной глупости

302. Вне досягаемости Бога

303. Моё байесовское просветление

Y. Бросая вызов трудному

304. Цуёку наритай! (Я хочу стать сильнее)

305. Цуёку против эгалитарного инстинкта

306. Пытаясь пытаться

307. Используй «постарайся сильнее», Люк

308. О совершении невозможного

309. Приложите экстраординарные усилия

310. Заткнись и сделай невозможное!

311. Заключительные слова

Z. Ремесло и сообщество

312. Поднимая ватерлинию здравомыслия

313. Ощущение, что возможно большее

314. Эпистемическая порочность

315. Школы, плодящиеся без доказательств

316. Три уровня проверки рациональности

317. Почему такие, как мы, не могут сотрудничать

318. Терпеть терпимость

319. Ваша цена за вступление

320. Может ли гуманизм сравниться с результатами религии?

321. Церковь против оперативной группы

322. Рациональность: общий интерес многих начинаний

323. Беспомощные индивиды

324. Деньги: единица заботы

325. Покупайте приятные эмоции и утилоны по отдельности

326. Апатия свидетеля

327. Коллективная апатия и интернет

328. Постепенный прогресс и Долина

329. Байесовцы против варваров

330. Остерегайтесь оптимизации за других

331. Практические советы, подкрепленные глубокими теориями

332. Грех недостаточной уверенности

333. Идите и создавайте Искусство!

Истоки: Введение.

Роб Бенсингер