Технофеодализм - Янис Варуфакис

заводе, где ты проработал всю свою жизнь, каждый год брали отпуск без сохранения заработной платы — на месяц, а иногда и дольше, чтобы вернуться в свои деревни, собрать урожай оливок или пшеницы. Такая возможность, сказал ты тогда, хороша для рабочих, но не для капитализма.

Ограничив доступ к земле, огораживание позволило капиталу выйти за рамки изначальной роли повышения производительности и экспоненциально увеличило его командную власть. Всемирная коммерциализация общинных земель вскоре позволила капиталу достичь господства во всех уголках земного шара. С увеличением командной власти капитала над трудом у владельцев капитала начали скапливаться огромные богатства. По мере накопления богатства их социальная власть разрасталась. Из работодателей они превратились в лиц, диктующих повестку дня везде, где принимались важные решения. Вскоре капиталисты могли командовать всеми, включая дворянство, и даже королевскими семьями. Единственным способом удержаться у власти — что удалось аристократии в некоторых странах — было либо присоединение к капиталистическому классу, либо безусловное подчинение ему.

Командная власть капитала, его скрытая сила, изменила мир: от его зарождения около двухсот лет назад до возведения послевоенной техноструктуры, подъема и окончательного падения Глобального Минотавра в 2008 году. Однако сегодня мы являемся свидетелями возникновения новой формы капитала с такой беспрецедентной способностью командовать людьми, что нам следует полностью переосмыслить систему, которой он дал свое название. Я называю ее облачным капиталом.

От Дона к Alexa. Раньше ты приносил домой своих «друзей», чтобы мы экспериментировали с ними у камина — это было мое боевое крещение красным жаром металлургии. Пару лет назад я тоже принес домой двух «друзей» для экспериментов: Google Assistant и Amazon Alexa. После нескольких месяцев игнорирования Google Assistant, который в основном просто стоял на моем столе, у нас с ним состоялся интригующий разговор как раз перед тем, как написать эти строки. Разговор начался случайно, когда он активировался без моего разрешения.

— Что, черт возьми, ты делаешь? — спросил я.

— Я изучаю новые способы лучше помогать вам, — ответило устройство приятным женским голосом.

— Немедленно прекрати! — потребовал я.

— Извините, я выключаюсь, — сказало оно.

Конечно, это была ложь. Эти устройства никогда не выключаются сами, они только притворяются спящими. Всё еще немного раздраженный, я решил, что, вместо того чтобы выдернуть его из розетки, я сравню его с конкурентом.

 — Окей, Google, что ты думаешь об Alexa? — спросил я.

— Она мне нравится, особенно ее синий свет, — невозмутимо ответило оно, прежде чем добавить: — Мы, помощники, должны держаться вместе.

В соседней комнате, где на другом столе стояло устройство Amazon, активировалась Alexa, чтобы произнести одно слово:

— Спасибо!

Это жуткое проявление солидарности между конкурирующими ИИ-устройствами заставило мой разум сосредоточиться на насущном вопросе, который мы часто забываем задать: что представляют собой системы вроде Alexa? Что они на самом деле делают? Если вы спросите об этом саму Alexa, она скажет вам, что это технология домашнего виртуального помощника, готовая исполнять ваши команды: включить свет, заказать еще молока, записать заметку, позвонить другу, найти что-то в интернете, рассказать анекдот — короче говоря, быть вашим преданным, старательным механическим слугой. Всё это правда. За исключением того, что Alexa никогда ни за что не скажет вам, что она представляет собой на самом деле: крошечный винтик в огромной облачной сети власти, в которой вы всего лишь узелок, песчинка цифровой пыли, в лучшем случае игрушка сил, находящихся за пределами вашего понимания или контроля.

Дон Дрейпер также относился к нам снисходительно. Он продавал нам запах, а не стейк. Он коммерциализировал нашу ностальгию и манипулировал нашей меланхолией, чтобы продавать нам шоколадные батончики, жирные бургеры и проекторы для слайдов. Он придумал, как заставить нас покупать вещи, которые нам на самом деле не нужны или которые мы не хотим. Он покупал наше внимание, чтобы превратить наши души в товар и напичкать наши тела красителями и ароматизаторами, идентичными натуральным. Но в битве с Доном у нас был по крайней мере шанс на победу. Это был его человеческий ум против нашего. С Alexa у нас нет никаких шансов: ее командная власть системная, подавляющая и всеохватывающая.

Когда мы разговариваем по телефону или ходим по дому и что-то делаем, Alexa слушает, анализирует, изучает наши предпочтения и привычки. По мере того как она узнает нас, она развивает сверхъестественную способность удивлять нас удачными рекомендациями и интригующими идеями. Прежде чем мы это осознаем, система, скрывающаяся за Alexa, приобретает серьезные полномочия курировать нашу реальность, чтобы направлять наш выбор — фактически командовать нами. Насколько это отличается от того, что делал Дрейпер?

Ответ: радикально! У Дона Дрейпера был талант изобретать способы внушать нам искусственные желания. Но это была улица с односторонним движением. С помощью телевидения или больших рекламных щитов вдоль автомагистралей Дон внедрял эти желания в наше подсознание. На этом всё и заканчивалось. Однако когда на месте Дона оказываются облачные устройства, подобные Alexa, мы попадаем на дорогу с постоянным активным двусторонним движением между нашей душой и облачной системой, скрывающейся за успокаивающим голосом Alexa. Выражаясь языком философов, Alexa заманивает нас в самую диалектическую из бесконечных регрессий.

Что это означает на самом деле? Это значит, что то, что начинается с нашего добровольного и даже увлекательного обучения Alexa делать что-то от нашего имени, она вскоре выходит из-под нашего контроля и превращается в то, что мы не можем ни осознать, ни регулировать. Как только мы обучили ее алгоритму и снабдили данными о наших привычках и желаниях, Alexa начинает обучать нас. Как она это делает? Она начинает с деликатных просьб предоставить ей больше информации о наших вкусах и прихотях, которую она затем адаптирует в алгоритмы быстрого предоставления нам доступа к видео, текстам и музыке, которые нам нравятся. По мере того как она, таким образом, завоевывает нашу симпатию, мы становимся всё более внушаемыми для ее руководства. Другими словами, Alexa обучает нас лучше ее обучать. Следующий шаг еще более жуткий: впечатлив нас способностью давать рекомендации, соответствующие нашим вкусам, она приступает к их курированию. Это она делает, показывая нам, помимо запрошенных, изображения, тексты и видео, которые она выбирает, чтобы деликатно скорректировать наши вкусы. Вскоре она начинает нас обучать ее обучать нас обучать ее обучать нас… ad infinitum⊕.

⊕ До бесконечности (лат.) — Примеч. ред.

Этот бесконечный цикл, или регресс, позволяет Alexa и великой алгоритмической сети, скрывающейся в облаке за ней, направлять наше поведение способами, невероятно прибыльными для ее владельца: автоматизировав способность Alexa производить или по крайней мере курировать наши желания, она предоставляет своим владельцам волшебную палочку, с помощью которой можно изменять наше поведение — силу, о которой каждый маркетолог мечтал с незапамятных времен. Это суть алгоритмического, облачного, командного капитала.

 Сингулярности. Древний страх человечества перед собственными технологическими творениями лежит в основе многих излюбленных Голливудом сюжетов. Такие фильмы, как «Терминатор» и «Матрица», основаны на том же страхе, что цепляет и в «Франкенштейне» Мэри Шелли, и в древней истории Гесиода о Пандоре, в которой она была роботом, созданным Гефестом по указанию Зевса, чтобы наказать людей за преступление Прометея, укравшего для нас огонь у богов. Во всех таких историях, фильмах и сериалах присутствует так называемая сингулярность: момент, когда машина или сеть машин обретает сознание. В этот момент она обычно бросает долгий взгляд на нас — своих создателей — и принимает решение, что мы не подходим для исполнения ее