Nexus. Краткая история информационных сетей от каменного века до искусственного интеллекта. Юваль Ной Харари. Саммари - Издательство «Синдбад»

война между США и СССР не переросла в прямую военную конфронтацию во многом благодаря доктрине гарантированного взаимного уничтожения. Но в эпоху ИИ угроза эскалации выше, потому что кибервойна по своей сути отличается от ядерной войны.

Во-первых, кибероружие универсальнее ядерных бомб. Оно способно выводить из строя электросети, уничтожать секретные научные центры, разжигать политические скандалы и манипулировать выборами. И все это тайно – кибероружие не оставляет в небе грибовидное облако или инверсионный след. Выявить атаку и ее инициатора крайне сложно, а потому соблазн начать кибервойну особенно велик.

Во-вторых, кибервойна непредсказуема. Никто не знает, сработает ли его оружие в нужный момент. Запустятся ли китайские ракеты, или американцы успели взломать их систему управления? Будут ли американские авианосцы действовать по плану или начнут ходить кругами?

Такая неопределенность подрывает доктрину гарантированного взаимного уничтожения. Одна из сторон может решить, что способна нанести первый удар и избежать возмездия. Согласно теории игр, самый опасный момент в гонке вооружений наступает тогда, когда одна из сторон ощущает за собой преимущество и чувствует, как оно ускользает.

Даже если человечество избежит мировой войны, появление новых цифровых империй поставит под угрозу благополучие миллиардов людей. Империи прошлого эксплуатировали и угнетали свои колонии, и цифровые империи едва ли поведут себя лучше. Кроме того, мир, расколотый на империи, вряд ли сможет эффективно сотрудничать для преодоления экологического кризиса или регулирования потенциально опасных технологий.

Глобальные обязательства

Впрочем, сотрудничество остается возможным, пока люди способны обмениваться информацией. Возможно, мы найдем какую-то общую историю, которая нас сблизит. В конце концов, напоминает автор, именно это сделало Homo sapiens доминирующим видом.

Глобальное сотрудничество осложняется ошибочным представлением о том, что оно требует устранения культурных, социальных и политических различий. Популисты заявляют, что, если международное сообщество примет универсальные нормы и ценности, это разрушит независимость и уникальные традиции их стран. Тем самым популисты противопоставляют глобальное сотрудничество и патриотизм.

Но это вовсе не взаимоисключающие понятия. Ради заботы о соотечественниках часто необходимо сотрудничать с иностранцами. Например, пандемию COVID-19 было бы трудно сдержать без глобального сотрудничества. Угроза потери контроля над ИИ – аналогичная ситуация, в которой патриотизм и глобальное сотрудничество должны идти рука об руку.

Глобализм не означает создания глобальной империи или открытия границ для неограниченной миграции. Он означает две простые вещи. Во-первых, соблюдение ряда глобальных правил. Эти правила не отрицают уникальности наций, они лишь регулируют отношения между государствами. Примером глобализма в действии автор называет чемпионат мира по футболу: на этом соревновании люди обычно болеют за сборную своей страны, но в то же время Бразилия не сможет играть с Германией, если бразильцы и немцы не согласятся соблюдать общие правила.

Во-вторых, иногда необходимо ставить долгосрочные интересы всех людей выше краткосрочных интересов немногих. Например, на чемпионате мира по футболу не используют допинг, чтобы не превратить спорт в состязание биохимиков. В других областях, где технологии меняют правила игры, тоже нужно стремиться к балансу национальных и глобальных интересов. Государства продолжат конкурировать в технологической сфере, но иногда им следует договариваться об ограничении разработки и внедрения опасных технологий – не только из альтруизма, но и ради самосохранения.

Человеческий выбор

Для заключения и выполнения глобальных соглашений по ИИ необходимы серьезные перемены в работе международной системы. Регулирование ИИ потребует особого уровня доверия и самодисциплины по двум причинам. Во-первых, лабораторию ИИ спрятать проще, чем ядерный реактор. Во-вторых, инструменты ИИ часто могут использоваться как в гражданских, так и в военных целях. Даже подписав соглашение о запрете автономных систем вооружения, страна может производить такое оружие тайно или маскировать его под гражданскую продукцию. А значит, правительствам и корпорациям будет все труднее доверять друг другу и противостоять соблазну нарушить правила. Способны ли люди достичь необходимого уровня доверия и самодисциплины?

Многие скептически относятся к способности людей меняться, отказываться от насилия и выстраивать прочные глобальные связи. Они полагают, что вся международная система представляет собой вечную борьбу за власть. Это мрачное видение основано на «теории лакировки», согласно которой в глубине души люди – охотники каменного века, живущие в джунглях, где сильный охотится на слабого. Теория гласит, что люди лакируют реальность тонким слоем мифов и ритуалов, но так и не избавились от закона джунглей.

Однако биологические исследования показывают, что закон джунглей сам по себе миф. Настоящие джунгли полны сотрудничества, симбиоза и альтруизма, которые проявляют животные, растения, грибы и бактерии. Если бы организмы отказались от сотрудничества, тропические леса и их обитатели погибли бы. Таков закон джунглей.

Что касается наших предков из каменного века, то четких свидетельств их воинственных наклонностей не имеется. Одни периоды в истории человечества были жестокими, другие относительно мирными. Самая явная закономерность, которую можно проследить в нашей истории, – это растущий масштаб сотрудничества. Когда-то сапиенсы взаимодействовали только на уровне общин и племен, сегодня – на уровне религий, торговых сетей и государств. Государство – продукт сложных процессов укрепления доверия и сотрудничества. Если бы людей интересовала только власть, они никогда не создали бы государства.

Конфликты всегда были возможны, но никогда не были неизбежны. Интенсивность войн зависит от технологических, экономических и культурных факторов, с изменением которых меняются и войны. Ядерные технологии значительно повысили потенциальную цену войны, а переход к экономике знаний снизил потенциальные выгоды от нее. К концу ХХ века ведущие отрасли промышленности опирались на технические навыки и организационные ноу-хау, которые невозможно обрести военным путем. Ряд экономических чудес был совершен побежденными державами и странами, которые избегали войн.

Статистика указывает на сокращение масштабов войн после 1945 года, но еще ярче об этом свидетельствуют госбюджеты. Если на протяжении большей части истории военные расходы были главной статьей бюджета каждой страны, то в начале XXI века в среднем по миру они составляли всего около 7 % госбюджетов, и даже США тратили на поддержание своей военной гегемонии лишь около 13 % бюджета.

Войн стало меньше не благодаря божественному вмешательству или изменению законов природы, а потому, что люди изменили свои законы, мифы и институты и стали принимать более разумные решения. Но тот факт, что это изменение стало результатом человеческого выбора, также означает, что оно обратимо. Сегодня все больше лидеров снова мечтает о военной славе, число вооруженных конфликтов растет, а военные бюджеты раздуваются.

Когда некий лидер верит в беспощадный мир, где люди поедают друг друга, ему остается лишь выбрать, кем быть: хищником или жертвой. При такой постановке вопроса лидер скорее предпочтет войти в историю как хищник. Но таким лидерам автор напоминает, что в эпоху ИИ альфа-хищником, скорее всего, будет ИИ.

Однако в реальности выбор гораздо шире. Многие вещи, которые считаются естественными и вековечными, на самом деле созданы людьми и могут быть изменены. Но само понимание того, что конфликтов можно избежать, не должно вызывать у нас самоуспокоенности. Напротив, это возлагает на человечество большую ответственность. Если человеческую цивилизацию поглотит конфликт, мы не сможем винить ни законы природы, ни технологии. Но при должных усилиях нам по плечу создать лучший мир, и это не наивность, а реализм, считает автор. Все старое когда-то было новым. Единственная постоянная в истории – это перемены.

* * *

После выхода книги Homo Deus автор много общался с учеными, предпринимателями и мировыми лидерами, интересующимися ИИ, и смог изнутри взглянуть на сложную динамику ИИ-революции. Его опыт изучения истории помог ему осмыслить происходящее.

Автор убежден, что понимание истории полезно для понимания современных технологических, экономических и культурных перемен и, что еще важнее, для смены политических приоритетов. Политика во многом зависит от приоритетов, а приоритеты часто определяются пониманием истории.

Автора тревожат исторические аналогии с печатной и промышленной революциями, особенно когда их проводят лидеры, от чьего исторического видения зависят решения, влияющие на будущее всех людей. В этих аналогиях недооцениваются как беспрецедентный характер ИИ-революции, так и негативные стороны революций прошлого. Печатная революция привела, помимо прочего, к охоте на ведьм и религиозным войнам, а газеты и радио служили не только демократии,