Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

ДНК могут кодировать один и тот же белок. Существует четыре основания ДНК {А, Т, Ц, Г} и 64 возможные комбинации из трех оснований ДНК. Но эти 64 возможных кодона описывают лишь 20 аминокислот и стоп-кодон. Следовательно, генетический дрейф должен приводить к нефункциональным изменениям в геномах видов посредством мутаций, которые случайно закрепляются в генофонде. Скорость накопления нефункциональных различий между геномами двух видов с общим предком зависит от таких параметров, как число прошедших поколений и интенсивность отбора в данном генетическом локусе. Это пример модели из семейства эволюционных моделей, которая дает количественные предсказания. Сюда же относятся неравновесные частоты аллелей под действием отбора, стабильные равновесия для теоретико-игровых стратегий, соотношение полов и так далее.

Все это относится к категории «завораживающих слов». К сожалению, существуют определенные религиозные фракции, которые распространяют грубую дезинформацию об эволюционной теории. Поэтому я подчеркиваю, что многие модели в рамках эволюционной теории дают количественные предсказания, подтвержденные экспериментально, и таких моделей более чем достаточно, чтобы доказать, что, к примеру, люди и шимпанзе происходят от общего предка. Если вы пали жертвой креационистской дезинформации — то есть если вы слышали любые намеки на то, что теория эволюции спорна, непроверяема, является «всего лишь теорией», нестрога, нетехнична или вообще не подтверждена невообразимо огромной горой экспериментальных доказательств, — я рекомендую вам почитать TalkOrigins FAQ11 и изучить эволюционную биологию с математической стороны.

Но представьте, что мы перенеслись в прошлое, в девятнадцатый век, когда теорию естественного отбора только-только открыли Чарльз Дарвин и Альфред Рассел Уоллес. Представьте эволюционизм сразу после его зарождения, когда у этой теории не было и близко ничего похожего на современный свод количественных моделей и колоссальные горы экспериментальных доказательств. Невозможно было знать, что у человека и шимпанзе обнаружится 95% общего генетического материала. Никто не знал о существовании ДНК. И тем не менее, ученые потянулись к новой теории естественного отбора. А позже выяснилось, что точно копируемый генетический материал с возможностью мутации действительно существует, что родство человека и шимпанзе доказуемо и так далее.

Таким образом, тот очень строгий, очень высокий стандарт, который я предложил для «технической» теории, слишком строг. Исторически все же удавалось успешно отличать истинные теории от ложных на основе предсказаний того типа, который я назвал «туманными». Туманные предсказания с, скажем, 80%-й уверенностью при достаточном количестве экспериментов могут обеспечить огромное преимущество над альтернативными гипотезами. Возможно, теорию подобного рода, которая дает не детально точные, но тем не менее верные предсказания, можно назвать «полутехнической»?

Но ведь технические теории наверняка надежнее полутехнических? Наверняка технические теории должны иметь приоритет, вызывать большее уважение? Физика, дающая чрезвычайно точные предсказания, наверняка в некотором смысле лучше подтверждена, чем эволюционная теория? Конечно, я не хочу сказать, что теория эволюции неверна; но какими бы огромными ни были горы свидетельств в пользу эволюции, разве физика не превосходит ее благодаря огромным горам точных экспериментальных подтверждений? Наблюдения за нейтронными звездами подтверждают предсказания общей теории относительности с точностью до одной стотриллионной доли (1014). Что может противопоставить этому эволюционная теория?

Дэниел Деннет однажды сказал, что если судить по простоте теории и объему сложности, которую она объясняет, Дарвину принадлежит величайшая идея за всю историю.12

Когда-то возник конфликт между физикой и эволюционизмом девятнадцатого века. Согласно лучшим физическим моделям того времени, Солнце не могло гореть очень долго. Три тысячи лет на химической энергии или 40 миллионов лет на гравитационной энергии. Физике девятнадцатого века не был известен ни один источник энергии, который позволил бы Солнцу гореть дольше. Физика девятнадцатого века была не совсем такой мощной, как современная — она не давала предсказаний с точностью до одной стотриллионной (1014). Но физика девятнадцатого века все же обладала математическим характером современной физики — дисциплины, чьи модели давали детальные, точные количественные предсказания. Эволюционная теория девятнадцатого века была полностью полутехнической, в ней не было ни капли количественного моделирования. Тогда еще не было известно даже об экспериментах Менделя с горохом. И все же казалось весьма вероятным, что для работы эволюции потребуется гораздо больше времени, чем жалкие 40 миллионов лет — сотни миллионов или даже миллиарды лет. Древность Земли была туманным полутехническим предсказанием туманной полутехнической теории. Физики же девятнадцатого века, напротив, располагали точной количественной моделью, которая путем формальных расчетов приводила к точному количественному выводу: Солнце просто не могло гореть так долго.

«Ограничения геологических периодов, накладываемые физической наукой, разумеется, не могут опровергнуть гипотезу трансмутации видов; однако они кажутся достаточными для того, чтобы опровергнуть доктрину о том, что трансмутация происходила путем „происхождения с изменениями посредством естественного отбора“».

— Лорд Кельвин, по Лайлу Запато13

История зафиксировала, кто победил.

В чем мораль? Если вы можете давать заблаговременные предсказания с 80-процентной уверенностью на вопросы, требующие ответа «да» или «нет», теория может казаться «расплывчатой», она может ошибаться в одном случае из пяти, но вы все равно сможете набрать чертовски огромное преимущество по очкам перед гипотезой неведения. Этого достаточно для подтверждения теории, если нет более сильных конкурентов. Реальность непротиворечива; каждая верная теория о Вселенной совместима со всякой другой верной теорией. Несовершенные карты могут конфликтовать, но территория только одна. Эволюционизм XIX века, возможно, и был полутехнической дисциплиной, но все же оставался верным (как мы теперь знаем) и безусловно лучшим объяснением (даже в то время). Любой конфликт между эволюционизмом и другой хорошо подтвержденной теорией должен был отражать какую-то аномалию, ошибку в утверждении, будто эти две теории несовместимы. Физика XIX века не могла смоделировать динамику Солнца — тогда еще не знали о ядерных реакциях. Физики не могли доказать, что их понимание Солнца верно в технических деталях, как не могли и провести расчеты на основе подтвержденной модели Солнца, чтобы определить, как долго оно просуществовало. Так что, оглядываясь назад, мы можем сказать нечто вроде: «Оставалась вероятность того, что физика девятнадцатого века просто не понимала, как устроено Солнце».

Но это лишь знание задним числом. Настоящий урок состоит в том, что, хотя физика девятнадцатого века была и точной, и количественной, она не имела автоматического превосходства над полутехнической теорией эволюционизма девятнадцатого века. Обе теории были хорошо подкреплены. Обе они были верны в тех областях, на которые распространялись их обобщения. Кажущийся конфликт между ними был аномалией, и выяснилось, что эта аномалия проистекала из неполноты и неверного применения физики девятнадцатого века, а не из неполноты и неверного применения эволюционизма девятнадцатого века. Но было бы бессмысленно сталкивать гору доказательств в пользу одной теории с горой доказательств в пользу другой.