Технофеодализм - Янис Варуфакис

GPS вы определяете, где вы находитесь в данный момент, вы имели бы возможность транслировать через интернет, не обращаясь ни к кому за подтверждением: «Меня зовут Джордж, я нахожусь на углу улиц Аристотеля и Платона и направляюсь в аэропорт. Кто-нибудь хочет поучаствовать в торгах за мою поездку?» В течение нескольких секунд вы получили бы множество предложений от людей или организаций, имеющих лицензию на перевозку пассажиров, включая мудрый совет от муниципального транспортного управления: «Почему бы не воспользоваться метро, которое находится в трех минутах ходьбы от вашего местоположения и доставит вас туда намного быстрее, чем любая машина, которая будет стоять в пробке?» Увы, это невозможно.

В мире Интернета 2.0⊕ , сформировавшегося в результате Нового огораживания, вы регулярно вынуждены передавать свою личность какой-нибудь огороженной части цифрового пространства, например Uber или Lyft, или какой-либо другой частной компании. Когда вы заказываете поездку в аэропорт, их алгоритм отправляет к вам водителя по своему выбору с целью максимизировать обменную стоимость, которую компания, владеющая алгоритмом, извлекает как из вас, так и из водителя. Это Новое огораживание позволило разграбить цифровые общественные ресурсы, что привело к невероятному росту облачного капитала.

⊕. Имеется в виду NSFNET (National Science Foundation Network) — компьютерная сеть Национального фонда науки США, образованная в 1984 году, на ее основе в начале 1990-х стал развиваться интернет. — Прим. пер.

Облачный капитал: начало. Я помню, как ты однажды объяснял мне, почему так восхищаешься древними кузнецами: потому что они не имели представления о Железном веке, который возвещали. Ими двигало что-то изнутри, какой-то импульс экспериментатора, когда они извлекали ковкой сталь из кричного (сыродутного) железа, как Микеланджело извлекал своего Давида из куска мрамора.

Разработчики, возвестившие недавно наступление Эпохи облачного капитала, были очень на них похожи. Движимые таким же любопытством и почти бескорыстным энтузиазмом, они экспериментировали с различными технологиями, целью которых было извлечение полезной информации из растущего мегалита данных в сердце интернета. Чтобы помочь нам найти веб-сайты, друзей, коллег, книги, фильмы и музыку, которые могли бы нам понравиться, они писали алгоритмы, способные классифицировать нас по кластерам интернет-пользователей со схожими шаблонами поиска и предпочтениями. Затем, внезапно, произошел прорыв, настоящая сингулярность: их алгоритмы перестали быть пассивными. Они начали проявлять способности, которые до сих пор ассоциировались исключительно с людьми. Они обрели агентность.

Для этого чудесного преображения потребовалось три качественных скачка. Первым был переход от простых линейных алгоритмов к тем, которые могли адаптировать свои по результатам своей деятельности — другими словами, перепрограммировать себя (технический термин для этого: машинное обучение). Второй скачок заменил стандартное компьютерное оборудование экзотическими «нейронными сетями». Третий и решающий скачок наполнил нейронные сети алгоритмами, способными к «обучению с подкреплением». Подражая той манере, в которой ты терпеливо знакомил меня сначала с оловом, затем с бронзой и, наконец, с железом и сталью, позволь мне познакомить тебя с этими тремя скачками поочередно.

Ранние алгоритмы напоминали кулинарные рецепты: обычные наборы пошаговых инструкций для получения заранее определенного результата (например, лазаньи). Позже алгоритмы были освобождены от обязанности достигать одного заранее определенного результата и могли выбирать, хотя и заранее запрограммированным образом, из меню возможных результатов тот, который лучше всего подходит для непредвиденных ситуаций, — то же самое, как сказать повару, что если фарш испортился во время приготовления, то вместо исходной версии на основе мяса следует приготовить вегетарианскую лазанью. Это был первый скачок.

Тем временем компьютерное оборудование, обеспечивающее работу алгоритмов, претерпевало собственные грандиозные изменения. Чтобы быстрее обрабатывать значительно больше информации, инженеры разработали конструкцию, представлявшую собой грубую имитацию нейронной структуры человеческого мозга — многоуровневой сетевой структуры, позволяющей соединять множество различных узлов, каждый из которых содержит полезную информацию [16]. Это был второй скачок. Но ключевым новшеством, которое вдохнуло в алгоритмы нечто похожее на агентность, стало третье.

Обучение с подкреплением было детищем инженеров-программистов, которые поняли, что алгоритмы обладают потенциалом оценивать собственную эффективность — и вносить улучшения — гораздо быстрее, чем любой человек. Чтобы добиться этого, они снабдили их двумя типами субалгоритмов (или подпрограмм): одна измеряет производительность алгоритма в то время, как сам он работает на огромной скорости, а другая (называемая функцией вознаграждения) помогает алгоритму изменять себя, чтобы улучшить свою производительность в соответствии с целями инженеров.

Используя нейронные сети для обработки гигантских объемов данных, алгоритмы, основанные на обучении с подкреплением, могут делать вещи, выходящие за рамки воображения Дона Дрейпера. Исследуя реакцию миллионов людей на свои подсказки миллиарды раз в час, они могут с молниеносной скоростью самообучаться не только влиять на нас, но и проделывать захватывающий новый трюк, на который, как мы видели ранее, теперь способны Alexa и ей подобные: подвергаться влиянию того, как они влияют на нас; воздействовать на себя по результатам анализа того, как они воздействуют на людей.

Как именно они это делают, полностью «скрыто под капотом». Даже люди, которые пишут такие алгоритмы, не понимают этого: как только алгоритм запущен, масштаб задействованных данных и скорость, с которой они обрабатываются, делают невозможным для любого человека проследить его маршрут через огромное дерево постоянно разрастающихся решений, даже если у человека есть доступ к полной записи его деятельности. Но предоставленные самим себе, постоянно отслеживающие и непрерывно реагирующие на результаты своих собственных действий, а затем на результаты своих реакций, эти «алго», как их называют, приобрели некоторые поразительные способности, которые не до конца понятны даже их собственным кодировщикам и программистам. Однако в этом нет ничего нового: вспомните, как финансовые инженеры в 1990-х и 2000-х использовали алгоритмы для создания деривативов такой невероятной сложности, что они сами не имели возможности узнать, что находится внутри них? Аналогично инженеры, разрабатывающие подобные облачные устройства — вроде Alexa — с целью создания автоматизированных систем, изменяющих наше поведение, придают этим системам такую сложность, что на самом деле не понимают, почему их системы делают то, что делают.

В нашей человеческой природе заложено быть уязвимыми для кого-либо или чего-либо, что, как нам кажется, понимает нас лучше нас самих. На самом деле мы, возможно, даже более уязвимы для алгоритмов, которые, как известно, не наделены разумом, чем для реальных людей, потому что нас легче усыпить ложным чувством безопасности. Мы притворяемся, что Alexa — это человек, поскольку мы не привыкли общаться с машинами, иначе общение с роботом было бы для нас смущающим или сверхъестественным опытом. Но тот факт, что мы знаем, что Alexa — не человек, позволяет смириться с ее обширными знаниям о нас, наличие которых в противном случае было бы отталкивающе жутким или пугающим. И в тот момент, когда мы относимся к ней будто это человек, хотя мы знаем, что это не так, мы наиболее уязвимы — готовы к попаданию в ловушку представления об Alexa как о нашем собственном, персональном механическом крепостном, подобном Пандоре. Увы, Alexa не крепостной. Это, скорее, часть облачного командного капитала, который с нашей помощью и посредством нашего собственного неоплачиваемого труда превращает в крепостных нас самих, чтобы еще больше обогатить своих владельцев.

Каждый раз, когда мы заходим в интернет, чтобы воспользоваться услугами этих алгоритмов, у нас нет выбора, кроме как заключить фаустовскую сделку с их владельцами. Чтобы использовать персонализированные услуги, предоставляемые алгоритмами, мы должны дать согласие на подчинение бизнес-модели, основанной на сборе наших данных, отслеживании нашей активности, невидимом курировании нашего контента. Как только мы подчинились этому, алгоритм начинает продавать нам товары, одновременно продавая наше внимание другим коммерсантам. В этот момент в работу включается некий более глубокий