Власть и прогресс - Саймон Джонсон

В разработке этих инструментов для слежки и их применении в Синьцзяне участвовали некоторые крупнейшие китайские IT-компании: Ant Group (владелец сервиса Ali Baba), телекоммуникационный гигант Huawei, а также некоторые из крупнейших в мире разработчиков ИИ – SinceTime, CloudWalk и Megvi. Разрабатываются методы слежки за людьми по ДНК. На рутинном уровне используются ИИ-технологии, распознающие уйгуров по чертам лица.

То, что началось в Синьцзяне, с тех пор распространяется на весь Китай. Камеры с функцией распознавания лиц теперь установлены по всей стране; идет поэтапное введение национальной социальной кредитной системы, которая собирает информацию о частных лицах и компаниях, мониторя нежелательную и сомнительную деятельность. В понятие «нежелательной деятельности», разумеется, включено инакомыслие и жесткая критика правительства. Официальное заявление Компартии Китая гласит:

«Необходимо совершенствовать как механизмы поощрения законопослушных и сознательных граждан, так и механизмы наказания тех, кто нарушает закон или теряет доверие, так чтобы человек попросту не мог, не осмеливался вести себя безответственно и ненадежно».

Ранние версии этих систем развивали фирмы из частного сектора, в том числе Ali Baba, принадлежащая Ant Group, Tencent и китайский агрегатор такси Didi. Цель формулировалась очень откровенно: «Позволить заслуживающим доверия гражданам свободно гулять везде, где пожелают, а дискредитированным создать затруднения на каждом шагу». С 2017 года прототипы системы социального кредита тестируются в десятке крупных городов, в том числе в Ханьчжоу, Чэнду и Няньцзине. Газета «Бизнес Инсайдер» сообщает, что за 2018 год 15 млн покупок билетов на самолеты и скоростные поезда были отклонены из-за низкого социального кредита покупателей. Введение системы социального кредита по всей стране ожидается в течение ближайших нескольких лет. Многие приходят к выводу, что в этой системе и в китайской модели в целом воплощается прототип диктатуры нового типа – «цифровой диктатуры», в которой авторитарное правительство поддерживает свою власть при помощи интенсивной слежки и сбора данных.

По иронии судьбы, когда Интернет и социальные сети только развивались, их возможное влияние на политический дискурс и демократию многим виделось прямо обратным. Считалось, что общение онлайн позволит «человеку толпы» свободно выражать свою мудрость, что разные точки зрения начнут здесь встречаться и состязаться на равных и в их честном споре будет рождаться истина. Предполагалось, что Интернет укрепит демократические правительства, а диктаторов заставит дрожать, поскольку информация об их коррумпированности, репрессиях и прочих грехах будет свободно распространяться в Сети. В вики-энциклопедиях, таких, как ныне печально известная Wikileaks, видели ступень к демократизации журналистики. Что же до социальных сетей, они сделают все это еще эффективнее, а сверх того облегчат разговоры о политике «без цензуры» и координацию граждан.

Поначалу казалось, что эти предсказания сбываются. 17 января 2001 года филиппинцы, возмущенные действиями Конгресса, который во время обсуждения импичмента президенту Джозефу Эстраде отказался рассматривать решающие свидетельства против него, начали массовые протесты, скоординированные с помощью текстовых сообщений. Люди пересылали эти сообщения друг другу – и в результате более 1 млн человек вышло в центр Манилы выразить свое возмущение тем, что Конгресс покрывает коррупционера и преступника. После того как столица оказалась парализована, законодатели отозвали свое решение, Эстрада был подвергнут импичменту и потерял свой пост.

Не прошло и десяти лет, как настал звездный час соцсетей. Facebook и Twitter, активно используемые во время «арабской весны», помогли протестующим свалить засидевшихся на своих постах авторитарных правителей: Бен-Али в Тунисе и Мубарака в Египте. Один из лидеров египетских протестов, сотрудник Google в Каире, Ваэль Гоним так выразил технооптимистический восторг части протестующих:

«Хотел бы я однажды встретиться с Марком Цукербергом и его поблагодарить! Ведь эта революция началась… ну, в значительной мере началась в Facebook. Если хотите освободить общество – просто дайте ему Интернет. Если вам нужно свободное общество – просто дайте ему Интернет».

Такую же интерпретацию роли своего детища принял и один из основателей Twitter, заявивший:

«Порой несколько твитов могут вызвать в угнетенной стране перемены к лучшему…»

С этим соглашался и политический истеблишмент. В 2010 году Государственный секретарь США Хиллари Родэм Клинтон заявила, что свободный Интернет станет ключевой опорой ее стратегии по распространению демократии в мире.

Как мы – с такими-то надеждами – оказались в мире, где цифровые инструменты стали мощным оружием в руках диктаторов, желающих скрыть информацию и подавить инакомыслие, а социальные сети превратились в рассадник дезинформации, которой манипулируют не только авторитарные правительства, но и радикалы с обеих сторон?

В этой главе мы покажем, что пагубное воздействие цифровых технологий и ИИ на политику и общественную жизнь не было неизбежным: это результат специфического применения технологий. Едва цифровые инструменты начали применяться в первую очередь для сбора и обработки масштабных объемов данных, и государства, и частные компании, заинтересованные в слежке за гражданами, увидели в них мощное орудие. По мере того как люди все более лишаются власти и влияния, и в демократических, и в авторитарных странах усиливается контроль сверху, а кроме того, процветают новые бизнес-модели, основанные на максимизации и монетизации человеческой вовлеченности и человеческих эмоций.

Система политической цензуры

Противостоять властям в коммунистическом Китае никогда не было легко. Когда в 1956 году Председатель Мао провозгласил лозунг: «Пусть расцветают сто цветов!» – и разрешил критиковать Коммунистическую партию, многие восприняли это как ослабление репрессий, унесших к тому времени миллионы жизней. Но надежды, что партия изменила свое отношение к инакомыслящим, вскоре были растоптаны. Мао начал яростную кампанию против «правых уклонистов», и тех, кто, приняв его приглашение за чистую монету, пытался высказать какую-то критику, начали хватать, бросать за решетку и подвергать пыткам. По оценкам исследователей, в период с 1957 по 1959 год были казнены от 1 до 2 млн человек.

Однако к 1980-м годам ситуация в Китае сильно изменилась. Сам Председатель скончался в 1976 году; сторонники жесткой линии – его жена Цзян Цин и ее трое союзников, известные как «Банда Четырех», – проиграли в последующей аппаратной борьбе и были оттеснены от власти. Дэн Сяопин, один из вождей революции, успешный командующий во время гражданской войны, архитектор кампании против правых уклонистов, генеральный секретарь и заместитель первого министра, впоследствии лишенный всех постов, вернулся в обойму и в 1978 году принял бразды правления. Теперь Дэн стал реформатором и затеял масштабную экономическую перестройку Китая.

Этот период характеризовало ослабление власти Коммунистической партии. Начали появляться новые независимые СМИ, и некоторые из них открыто критиковали партию. В этот же период возникали различные низовые движения, в том числе движения студентов за демократию, а также сельские инициативы по защите