Власть и прогресс - Саймон Джонсон

К применению цифровых инструментов против оппозиции склонны, увы, не только диктатуры. В 2020 году Forbidden Stories, международная организация, стремящаяся предавать огласке истории о преследовании журналистов и о репрессиях в разных странах мира, опубликовала присланный ей список из 50 000 телефонных номеров. Номера принадлежат оппозиционным политикам, борцам за права человека, журналистам, диссидентам из самых разных стран: объединяет их то, что все эти телефоны были взломаны и прослушиваются шпионской программой Pegasus, созданной в израильской IT-компании NSO Group (название по первым буквам имен создателей: Нив Карми, Салев Хулио и Омри Лавье).

Pegasus – «бескликовая» программа; это означает, что ее можно установить на телефон дистанционно, без всяких действий пользователя: не требуется, чтобы он «кликал» на зараженную ссылку. Названа она в честь Пегаса, крылатого коня из греческой мифологии, – это намек и на более широкий класс шпионских программ, к которому она принадлежит («троянов», названных так в честь Троянского коня), и на то, что она «прилетает» на телефон, а не устанавливается вручную. Как мы помним из главы первой, современные IT-лидеры любят сравнивать создание ИИ с открытием огня, а себя изображают некими Прометеями нашего времени, принесшими человечеству дар высоких технологий. Но пока что все их достижения породили не Прометея, а Пегаса.

«Пегас» умеет читать текстовые сообщения, подслушивать звонки, определять местоположение, собирать пароли, мониторить активность в Сети и даже управлять камерой и микрофоном. Во многих странах с авторитарной властью, например в Саудовской Аравии, ОАЭ или Венгрии, он используется на постоянной основе. Журналист Джамал Хашогги, впоследствии жестоко убитый и расчлененный властями Саудовской Аравии, подвергался прослушиванию «Пегасом».

Исследование номеров, полученных Forbidden Stories, показывает, что систематическим прослушиванием своих граждан с помощью шпионских технологий занимаются и многие демократически избранные правительства. Так, Мексика изначально приобрела «Пегас» как оружие против наркокартелей; и действительно, он использовался в операции, приведшей к аресту Эль Чапо, главы картеля Синалоа. Но в дальнейшем технология была обращена против журналистов, юристов, расследовавших убийство 43 студентов, и оппозиционных партий, в том числе против одного из лидеров оппозиции Андреа Мануэля Лопеса Обрадора, впоследствии ставшего президентом страны. В Индии правительство премьер-министра Нарендры Моди использует «Пегас» еще интенсивнее: под наблюдением находятся многие видные деятели оппозиции, активисты студенческого движения, журналисты, члены предвыборных комиссий и даже руководители Центрального бюро расследований.

«Пегасом» пользуются не только правительства. В списке имеется телефон президента Франции Эмманюэля Макрона, а также номера нескольких высокопоставленных чиновников Госдепартамента США.

Американскому государству для таких высокотехнологичных прегрешений «Пегас» не требуется (хотя некоторые агентства безопасности США экспериментировали с этой программой и даже выступили посредниками в ее продаже правительству Джибути). 5 июня 2013 года мир потрясли откровения Эдварда Сноудена, впервые опубликованные в газете «Гардиан», о нелегальном сборе данных, которым занимается Агентство национальной безопасности (АНБ). АНБ сотрудничало с Google, Microsoft, Facebook, Yahoo!, различными другими провайдерами интернет-сервисов, а также с телефонными компаниями AT&T и Verizon и с их помощью собрало огромный массив данных об американских гражданах: об их поисковых запросах в Интернете, общении в Сети, телефонных звонках. Интересовалось оно и коммуникациями лидеров других стран, союзников США, в том числе Германии и Бразилии. Собирало данные со спутников и с подводных оптоволоконных кабелей. Возможности их шпионских программ Сноуден охарактеризовал так: когда он работал на АНБ, то

«…мог, сидя у себя за столом, подключиться и прослушать кого угодно – от вас с вашим бухгалтером до федерального судьи или даже до президента, если бы у меня была его личная электронная почта».

Все эти действия были абсолютно неконституционны, проводились без ведома и надзора Конгресса, однако на некоторые из них давал разрешение Суд по делам иностранных разведок.

США не Китай, так что здесь прослушивать собственных граждан приходилось втайне от журналистов и даже от большинства юристов. Откровения Сноудена вызвали массовое возмущение нечистоплотными методами сбора информации АНБ и других агентств. Но, чтобы остановить слежку, этого было недостаточно. Сейчас происходит нечто, быть может, еще более ужасное: частные компании, например Clearview AI, начали собирать изображения лиц сотен миллионов пользователей и продавать эту информацию правоохранительным органам без всякого контроля со стороны гражданского общества или иных институтов. Основатель и директор Clearview AI уверен, что в этом нет ничего дурного: «Мы убеждены, что для нашей технологии это самое лучшее применение».

Шпионская программа «Пегас», махинации АНБ, бизнес Clearview AI – все это иллюстрирует более глубокую проблему. Как только цифровые инструменты для сбора данных появятся в широком доступе, первым делом ими заинтересуется большинство правительств, желающих оперативно подавлять оппозицию и лучше следить за своими гражданами. Эти инструменты усилят недемократические режимы и помогут им более эффективно расправляться с несогласными. Что же до демократических правительств, для них это станет таким соблазном «поиграть в диктаторов», который едва ли многие смогут преодолеть.

Говорят, демократия погибает во тьме. Но под бьющим в лицо светом от создателей новейших технологий ИИ ей тоже живется несладко.

Слежка и направление развития технологий

От первоначальной эйфории по поводу демократического потенциала Интернета и соцсетей некоторые переметнулись к противоположному убеждению: мол, цифровые инструменты по сути своей антидемократичны. Говоря словами историка Юваля Ноя Харрари, «технология поощряет тиранию», и мы сейчас, возможно, входим в эпоху «цифровых диктатур».

Обе эти крайние точки зрения ложны. Цифровые технологии сами по себе не за демократию и не против. Искусственный интеллект вовсе не обречен служить диктаторам, мониторя Интернет, цензурируя информацию и репрессируя граждан. Все это – вопрос выбора направления развития.

В предыдущей главе мы уже видели, что цифровые технологии, по природе своей универсальные, можно развивать и в сторону увеличения их практической значимости – например создавая новые рабочие задачи или платформы, увеличивающие наши возможности. Только видение и бизнес-модель крупных IT-компаний подтолкнуло их к тому, чтобы сосредоточить свои разработки на слежке за сотрудниками и лишении людей работы путем автоматизации всего и вся. То же верно, когда мы говорим об ИИ в руках авторитарных (и некоторых других, якобы демократических) правительств.

Мечты о том, как Интернет и цифровые технологии смогут объединить граждан и повести их на бой против тирании, не были совсем оторваны от реальности. Цифровые технологии можно использовать для шифрования, чтобы власти не смогли читать вашу частную переписку. Можно создавать доступные сервисы типа VPN, позволяющие обходить цензуру. Существуют анонимайзеры типа Tor, которые делают всю вашу активность в Сети «непроницаемой» для посторонних глаз и таким образом обеспечивают более высокий уровень приватности и безопасности. Увы, былые надежды на цифровую демократизацию оказались разбиты: мир высоких технологий