Nexus. Краткая история информационных сетей от каменного века до искусственного интеллекта. Юваль Ной Харари. Саммари - Издательство «Синдбад»

Грядущие информационные сети, особенно основанные на ИИ, во многом будут отличаться от предыдущих. ИИ постепенно берет на себя роль и бюрократов, и мифотворцев. Инструменты ИИ уже умеют находить и обрабатывать данные лучше, чем бюрократы из плоти и крови, а теперь ИИ учится слагать истории лучше большинства людей.

Информационные сети не максимизируют истину, а стремятся найти баланс между истиной и порядком, напоминает автор. Бюрократия и мифология равно необходимы для поддержания порядка, и обе легко жертвуют ради порядка истиной. Какие же механизмы гарантируют, что бюрократия и мифология не откажутся от истины полностью, и какие механизмы позволяют информационным сетям выявлять и исправлять собственные ошибки, даже ценой некоторого беспорядка?

Рассказывая, как человеческие информационные сети решают проблему ошибок, автор начинает с истории изобретения еще одной информационной технологии – священной книги, призванной обслуживать все жизненно важные информационные потребности общества и исключать любую возможность собственных ошибок. История «непогрешимых» священных книг указывает на ряд недостатков всех информационных сетей и дает важные уроки тем, кто задумывается о создании безошибочных ИИ в XXI веке.

Глава 4

Ошибки: фантазия о непогрешимости

Святой Августин говорил: «Человеку свойственно ошибаться; упорствовать в заблуждении свойственно дьяволу». Склонность людей к ошибкам и необходимость их исправлять занимают важное место в любой мифологии. В христианской мифологии вся история представляет собой попытки искупить первородный грех Адама и Евы. Бюрократия тоже постоянно пытается выявлять и исправлять ошибки. Сложные бюрократические системы обычно имеют внутренние дисциплинарные органы, а в случае катастрофы – например, военного поражения или финансового краха – создают комиссии по расследованию, чтобы разобраться, что пошло не так, и предотвратить подобные ошибки в будущем.

Чтобы механизмы самокоррекции работали, им нужна легитимность. Если людям свойственно ошибаться, как знать, не дадут ли сбой и механизмы самокоррекции? Чтобы выйти из этого замкнутого круга, люди пытались придумать некий безошибочный надчеловеческий механизм, на который можно было бы положиться в выявлении и исправлении человеческих ошибок. Сегодня некоторые верят, что такой механизм сможет обеспечить ИИ. Например, Илон Маск заявил, что собирается запустить TruthGPT – ИИ, нацеленный на поиск истины. Но это опасная фантазия, считает автор. В прошлом подобные фантазии принимали религиозную форму, а самой важной функцией религии традиционно было обеспечение надчеловеческой легитимности социального порядка.

Вывести людей из контура

В основе каждой религии лежит фантазия о связи с надчеловеческим разумом, неспособным на ошибку, поэтому изучение истории религий весьма актуально в контексте современных дискуссий об ИИ.

На протяжении всей истории разные люди утверждали, что несут послания богов, но эти послания часто противоречили друг другу. Как было отличить истинную волю богов от фантазий и выдумок обычных людей, которым свойственно ошибаться? Религия стремится вывести людей из контура и дать им безошибочные надчеловеческие законы, однако сама религия то и дело сводится к проблеме доверия тому или иному человеку.

Одним из решений стало создание религиозных институтов для проверки предполагаемых божьих посланников. Но поскольку в них работали все те же несовершенные люди, эти институты тоже были подвержены ошибкам и коррупции. Даже Пифию, верховную жрицу храма Аполлона в Дельфах, однажды подкупили, чтобы она подговорила спартанцев свергнуть афинского тирана Гиппия. (Это в итоге привело к установлению афинской демократии.)

Поскольку пророк из плоти и крови тоже мог сфальсифицировать волю бога, ключевая проблема религии не решалась созданием таких религиозных институтов, как храмы и жреческие сословия. Можно ли было в этой системе обойтись вообще без людей?

Безошибочная технология

Священные книги, такие как Библия или Коран, представляют собой технологию, позволяющую обойти человеческую склонность к ошибкам. Иудаизм, христианство, ислам и другие книжные религии выстроены вокруг таких технологических артефактов. Книга – это фиксированный набор неотделимых друг от друга текстов, который имеет множество идентичных копий. Это отличает книгу от устных рассказов, деловых документов и архивов. При устном пересказе историй со временем неизбежно возникают вариации, а у книги все копии идентичны. Документы, в отличие от книги, обычно невелики и часто существуют только в одном экземпляре. От архива же книга отличается тем, что в архивах хранятся разные наборы текстов, а во всех копиях книги содержатся одни и те же главы и разделы. Таким образом, книга обеспечивает доступ к одной базе данных множеству людей в разное время и в разных местах.

Книга стала важной религиозной технологией в первом тысячелетии до нашей эры. Религиозные течения стали заявлять, что боги используют новую технологию вещания – книгу. Одна особая книга содержит все божественные откровения обо всем на свете – от сотворения мира до правил питания. Что особенно важно, ни один священник, пророк или человеческая институция не забудут и не исказят эти откровения, потому что слова несовершенных людей всегда можно сравнить с тем, что написано в безошибочной книге.

Но книжные религии столкнулись со своими проблемами. Самая очевидная из них – кто решает, что включать в священную книгу? Первый экземпляр все-таки не сходит с небес, его составляют люди. И все же верующие надеялись, что эту проблему можно решить раз и навсегда. Если самые мудрые и авторитетные люди однажды договорятся о содержании священной книги, то с этого момента можно вывести людей из контура, и божественный текст навсегда будет защищен от человеческого вмешательства.

Против такой процедуры можно было бы выдвинуть множество возражений, но именно так составлялась еврейская Библия (Танах).

Сотворение еврейской Библии

В первом тысячелетии до нашей эры иудейские пророки, священники и ученые создали обширный массив историй, документов, пророчеств, стихов, молитв и хроник. В библейские времена Библии как единой священной книги не существовало. Ни царь Давид, ни пророк Исаия не держали ее в руках.

Иногда ошибочно утверждают, что древнейший из сохранившихся экземпляров Библии содержится в свитках Мертвого моря. Однако в них нет указаний на то, что двадцать четыре книги Ветхого Завета считались в то время единой и полной базой данных. Многие свитки содержат тексты, не вошедшие в библейский канон, но даже те, что вошли в него, отличаются от современных версий. Например, канонический текст Второзакония 8:6 требует от верующих бояться Бога, тогда как текст из свитков Мертвого моря призывает любить Бога. Есть и гораздо более серьезные расхождения.

Греческая Септуагинта – древнейший перевод Библии, выполненный между III и I веками до н. э., – тоже во многом отличается от более поздней канонической версии, как по своему составу, так и по объему включенных в нее книг.

Потребовались столетия споров между раввинами, чтобы упорядочить базу данных и решить, какие тексты включать в Библию как официальные слова Господа, а какие нет. Так, одни раввины отвергали Песнь песней как светскую любовную лирику, другие защищали ее как богодухновенное творение царя Соломона. В целом консенсус, по-видимому, был достигнут к концу II века н. э., но споры о деталях велись еще сотни лет.

В процессе канонизации было решено, что книга Бытия – слово Господа, а книга Еноха, Житие Адама и Евы и Авраамов завет – человеческие измышления. Псалтирь Давида вошла в канон (за исключением псалмов 151–155), а Соломонова псалтирь – нет. Книга Малахии была одобрена, книга Варуха – нет. Хроники – да, Маккавеи – нет.

После утверждения канона евреи стали забывать о роли человеческих институтов в сложном процессе составления Библии. Когда священная книга была утверждена, у евреев появилась надежда, что отныне им будут доступны точные слова Господа, которые не исказит ни один ненадежный человек и ни одна продажная институция.

На две тысячи лет предвосхитив идею блокчейна, евреи начали копировать священную книгу, чтобы у каждой еврейской общины имелась по крайней мере одна копия. Тем самым предполагалось демократизировать религию и ограничить власть потенциальных автократов, а также предотвратить вмешательства в текст. Казалось, отныне безошибочная технология книги гарантирует социальный порядок.

Возвращение института

Согласование содержания священной книги было не единственной проблемой; другая проблема была связана с ее копированием. Еврейские общины расселялись по всему миру, и трудно