Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Романы Айн Рэнд воспевают технологии, капитализм, индивидуальный бунт против Системы, ограниченное вмешательство государства, частную собственность и эгоизм. Её главный вымышленный герой, Джон Голт, был <SPOILER> учёным, который изобрёл новый вид дешёвой возобновляемой энергии, но затем отказался отдавать его миру, поскольку всю прибыль у него просто украли бы для поддержки коррумпированных правительств.</SPOILER>

И затем — каким-то образом — всё это превратилось в морально-философскую «закрытую систему» с Айн Рэнд в центре. Термин «закрытая система» — это не моё обвинение; этот термин использует сам Институт Айн Рэнд для описания объективизма. Объективизм определяется трудами Айн Рэнд. Теперь, когда Рэнд мертва, объективизм закрыт. Если вы не согласны с трудами Рэнд хоть в чём-то, вы не можете быть объективистом.

Макс Глюкман однажды сказал: «Наука — это любая дисциплина, в которой дурак нынешнего поколения может пойти дальше гения предыдущего поколения». Наука движется вперёд, свергая своих героев, подобно тому как Ньютон пал перед Эйнштейном. Каждый молодой физик мечтает стать новым чемпионом, которого физики будущего будут мечтать свергнуть с пьедестала.

Философским кумиром Айн Рэнд был Аристотель. Возможно, Аристотель и был ярким молодым дарованием в математике 2350 лет назад, но с тех пор математика сделала заметный шаг вперёд. Байесовская теория вероятностей — это количественная логика, частным случаем которой является качественная логика Аристотеля; однако нет никаких признаков того, что Айн Рэнд знала о байесовской теории вероятностей, когда писала свой главный труд, «Атлант расправил плечи». Рэнд писала о «рациональности», но так и не ознакомилась с современными исследованиями в области эвристик и когнитивных искажений. Как можно претендовать на звание мастера рациональности, не зная ничего о таких элементарных вещах?

«Постойте-ка, — возразит читатель, — это не совсем честно! «Атлант расправил плечи» был опубликован в 1957 году! В те времена о Байесе практически никто не знал». Да бросьте. Дальше вы скажете мне, что Айн Рэнд умерла в 1982 году и у неё не было возможности прочесть книгу «Принятие решений в условиях неопределенности: Правила и предубеждения», опубликованную в том же году.

Наука несправедлива. В этом, в общем-то, и суть. Начинающий рационалист в 2007 году имеет огромное преимущество перед начинающим рационалистом в 1957 году. Именно так мы и понимаем, что прогресс существует.

Лично мне мысль о добровольном принятии системы, явно привязанной к убеждениям одного человека, который к тому же мёртв, находится где-то между глупостью и самоубийством. Компьютер не успевает прожить и пяти лет, как безнадежно устаревает.

Жизненная сила, которой Рэнд восхищалась в науке, торговле, в каждой железной дороге, сменившей конные повозки, в каждом небоскрёбе, построенном с применением новой архитектуры, — всё это проистекает из принципа превзойти древних мастеров. Как может существовать наука, если самый знающий учёный из всех, кто когда-либо родится, уже жил на свете? Кто стал бы устремлять ввысь силуэт Нью-Йорка, которым так восхищалась Рэнд, если бы самое высокое здание, которое когда-либо будет существовать, уже было построено?

И всё же Айн Рэнд не признавала никого, кто превосходил бы её — ни в прошлом, ни в грядущем будущем. Рэнд, начавшая с восхищения разумом и индивидуальностью, закончила тем, что подвергала остракизму любого, кто осмеливался ей противоречить. Шермер пишет:

[Барбара] Бранден вспоминала вечер, когда один из друзей Рэнд заметил, что ему нравится музыка Рихарда Штрауса. «Когда в конце вечера он ушёл, Айн сказала (и эта реакция становилась всё более типичной для неё): „Теперь я понимаю, почему мы с ним никогда не сможем стать настоящими родственными душами. Наше мироощущение разделяет слишком большая дистанция“». Часто она не ждала, пока друг уйдёт, чтобы делать подобные замечания.

Похоже, со временем Айн Рэнд изменилась.

Рэнд выросла в России и своими глазами видела большевистскую революцию. В возрасте 21 года она получила визу для поездки к американским родственникам и больше не возвращалась. Легко ненавидеть авторитаризм, когда ты сам его жертва. Легко защищать свободу личности, когда тебя самого угнетают.

Требуется гораздо более прочный внутренний стержень, чтобы бояться власти, когда эта власть принадлежит вам. Когда люди ждут ответов именно от вас, гораздо труднее сказать: «Да что я, чёрт возьми, знаю о музыке? Я писательница, а не композитор» или «Сложно понять, как любовь к какому-то музыкальному произведению может быть ложной».

Когда вы сами сокрушаете тех, кто посмел вас задеть, проявление власти почему-то кажется гораздо более оправданным, чем когда сокрушают вас. В голову сами собой приходят всевозможные прекрасные оправдания.

Майкл Шермер подробно описывает, почему, по его мнению, философия Рэнд скатилась к культу. В частности, Шермер утверждает (как кажется), что объективизм потерпел неудачу, потому что Рэнд считала уверенность возможной, в то время как наука никогда не уверена до конца. В этом я не могу согласиться с Шермером. Атомная теория в химии чертовски достоверна. Но химики почему-то не превратились в культ.

На самом деле, мне кажется, Шермер сам становится жертвой искажения соответствия, полагая, что существует какая-то особая связь между философией Рэнд и тем, как её последователи создали культ. Любое движение стремится стать культом.

Айн Рэнд бежала из Советского Союза, написала книгу об индивидуализме, которая многим понравилась, получила кучу комплиментов и собрала вокруг себя кружок обожателей. Её почитатели находили всё более и более приятные слова в её адрес (счастливая спираль смерти), и ей это слишком нравилось, чтобы велеть им замолчать. В её руках оказалась власть сокрушать тех, кого она не одобряла, и она не устояла перед искушением властью.

Айн Рэнд и Натаниэль Бранден состояли в тайной внебрачной связи. (С согласия обоих супругов, что, на мой взгляд, имеет большое значение. Если вы хотите раздуть из этого «проблему», вам придётся уточнить, что супруги были несчастны — да и тогда посторонних это всё равно не касается.) Когда выяснилось, что Бранден «изменил» Рэнд с ещё одной женщиной, Рэнд пришла в ярость и предала его анафеме. Многие объективисты откололись, когда новость об этой связи стала достоянием общественности.

Кто остался с Рэнд вместо того, чтобы последовать за Бранденом или вообще покинуть объективизм? Её самые преданные сторонники. Кто ушёл? Прежние голоса умеренности. (Испарительное охлаждение групповых убеждений.) С тех пор власть Рэнд над оставшимся кружком стала абсолютной, и никакие сомнения не допускались.

Единственное необычное во всей этой истории — это то, насколько заурядной она была.

Можно подумать, что система убеждений, превозносившая «разум», «рациональность» и «индивидуализм», каким-то образом получила особый иммунитет... правда?

Но нет, не получила.

Это сработало примерно так же, как попытка