Nexus. Краткая история информационных сетей от каменного века до искусственного интеллекта. Юваль Ной Харари. Саммари - Издательство «Синдбад»

Автор использует термин «алгоритм», говоря о программных аспектах, но напоминает, что все алгоритмы выполняются на компьютере. Аббревиатура ИИ означает «искусственный интеллект», но автор полагает, что, возможно, лучше было бы расшифровывать ее как «инородный интеллект». По мере развития ИИ он становится все менее искусственным (в плане зависимости от человеческого замысла) и все более инородным. Люди часто оценивают ИИ по меркам человеческого интеллекта и спорят о том, когда ИИ достигнет «уровня человеческого интеллекта». Однако ИИ не стремится к этому уровню, он развивается по совершенно иному пути.

Термин «компьютерная сеть» автор употребляет в единственном числе, а не во множественном: единой человеческой сети он противопоставляет единую компьютерную сеть, приходящую ей на смену.

Брать на себя ответственность

Предсказать долгосрочную эволюцию компьютерной сети невозможно, но гораздо важнее понимать, как она развивается прямо сейчас, поскольку это имеет политические и личные последствия для всего человечества. Нынешняя информационная революция, вероятно, создаст беспрецедентные сущности в беспрецедентных масштабах. Люди пока еще контролируют ситуацию, но чтобы действовать мудро, они должны понимать происходящее. Когда они пишут компьютерный код, то не просто разрабатывают продукт – они перестраивают политику, общество и культуру, а потому должны хорошо разбираться в политике, обществе и культуре. Люди должны отвечать за свои действия. Тревожно, что технологические корпорации, когда их обвиняют в создании хаоса, перекладывают ответственность на клиентов, избирателей, политиков и регуляторов. Это или наивность, или лукавство. Техногиганты не просто исполняют желания клиентов и соблюдают правила. Они все чаще сами формируют эти желания и пишут правила, не жалея денег на лоббирование своих интересов и имея прямой доступ к эмоциям людей.

Принципы «клиент всегда прав» и «избирателю виднее» предполагают, что люди понимают происходящее; что люди, решившие использовать соцсети, осознают все последствия своего выбора, а избиратели и политики, ответственные за регулирование техногигантов, понимают их бизнес-модели и суть работы.

Однако это не так, считает автор, и в качестве примера рассматривает влияние новых технологий на налогообложение. Люди и корпорации всегда платили налоги только в тех странах, где присутствовали физически. Но когда все больше транзакций связано только с передачей информации, а не физических товаров или традиционных валют, все усложняется. Например, гражданка Уругвая может ежедневно взаимодействовать через интернет со множеством компаний, не представленных в Уругвае физически. Должны ли эти транзакции облагаться налогом в Уругвае? Некоторые считают, что да. Не только потому, что информация из Уругвая помогает корпорациям богатеть, но и потому, что их деятельность наносит ущерб уругвайскому бизнесу, который платит налоги в своей стране.

Но если государство решит обложить эти транзакции налогом, ему придется пересмотреть ряд базовых понятий, таких как «устойчивая связь» (лат. nexus). Традиционно наличие у корпорации устойчивой связи с конкретной страной зависело от того, есть ли у нее там физические магазины, офисы и т. д. Один из вариантов разрешения налоговых дилемм, связанных с компьютерной сетью, – пересмотр определения устойчивой связи и включение в него понятия цифрового присутствия в стране.

Все может стать еще сложнее. Допустим, уругвайские политики представят новую схему налогообложения цифровых транзакций. В ответ один из техногигантов предложит кому-то из политиков ценную информацию об избирателях и настроит алгоритмы соцсетей и поиска так, чтобы он выиграл выборы. За это политик, став президентом, откажется от новой налоговой схемы и примет удобные для техногигантов правила. Будет ли это считаться подкупом, если никто при этом не получит ни цента?

Сделки из разряда «информация за информацию» уже распространены повсеместно. Каждый день миллиарды людей взаимодействуют с технокорпорациями, но никто не отследит эти транзакции по нашим банковским счетам, поскольку деньги остаются на месте. Люди расплачиваются информацией за информацию. По мере того как все больше транзакций совершается по этой модели, информационная экономика растет за счет денежной, и сама концепция денег оказывается под вопросом.

Предполагается, что деньги – универсальная мера ценности, а не жетон, используемый только в некоторых случаях. Но поскольку все больше вещей оценивается с точки зрения информации, будучи «бесплатными» в денежном выражении, в какой-то момент будет ошибкой оценивать богатство людей и корпораций по количеству денег. Самым богатым и влиятельным может оказаться тот, у кого мало денег, но есть огромный банк данных.

Это имеет серьезные последствия для налоговой системы. Налоги нацелены на перераспределение богатства: государство взимает их с богатых, чтобы обеспечить всех. Однако система, облагающая налогом только деньги, скоро устареет, поскольку многие транзакции уже не связаны с деньгами. Богатейшие компании могут платить ничтожные налоги, поскольку их состояние исчисляется не миллиардами долларов, а петабитами данных.

Тысячи лет государства облагали налогами деньги, и они пока не знают, как облагать налогом информацию. Один из примеров того, как государство адаптируется к новым условиям, – китайская система социального рейтинга. Эта система, по сути, представляет собой новый тип денег – валюту, основанную на информации.

Правые и левые

Проблема налогообложения – лишь одна из многих проблем, порожденных компьютерной революцией. Компьютерная сеть подрывает почти все структуры власти. Демократии опасаются появления цифровых диктатур, а диктатуры боятся появления неподконтрольных им субъектов. Люди должны опасаться утраты неприкосновенности частной жизни и распространения информационного колониализма.

Трудно сказать, какую позицию по вопросам ИИ занимают правые и левые партии, поскольку до недавнего времени политики мало об этом говорили. Но технологии развиваются гораздо быстрее, чем политика.

Инженеры и руководители технокорпораций лучше других осведомлены о развитии ИИ, криптовалютах, социальных рейтингах и т. п. Однако они редко используют свои знания для сдерживания разрушительного потенциала новых технологий и гораздо чаще – для того, чтобы зарабатывать миллиарды долларов или накапливать петабиты данных.

Есть и исключения: например, талантливая программистка Одри Тан, которую правительство Тайваня пригласило на пост министра по цифровым вопросам. На этом посту она помогла сделать работу властей более прозрачной для граждан. Ей также приписывают использование цифровых инструментов, благодаря которым Тайвань успешно сдержал вспышку COVID-19.

Однако на каждого выпускника факультета компьютерных наук, мечтающего посвятить себя госслужбе, приходится гораздо больше тех, кто хочет построить многомиллиардную корпорацию. Это ведет к опасной информационной асимметрии.

Никакого детерминизма

Мы, люди, все еще контролируем ход информационной революции, а значит, на нас лежит большая ответственность за наши решения. Чтобы реализовать свободу выбора, для начала нужно понять, что представляют собой новые технологии и на что они способны. Чтобы сохранить контроль над будущим, нам необходимо видеть политический потенциал компьютеров.

По мере того как компьютеры становятся важными участниками информационной сети, перед ними все чаще встает задача поиска истины и поддержания порядка. Например, выяснение истины об изменении климата все больше зависит от вычислений, которые могут выполнить только компьютеры, а достижение общественного консенсуса по вопросу об изменении климата все больше зависит от рекомендательных алгоритмов. Человеческая политика – это теперь еще и компьютерная политика.

Чтобы разобраться в новой компьютерной политике, нужно понимать, что нового появилось в компьютерах. Их способность принимать решения и генерировать идеи – только верхушка айсберга. Принципиально важно то, как они это делают. Если бы компьютеры делали это так же, как человек, они были бы своего рода «новыми людьми». Но реальность, по мнению автора, совсем иная и более тревожная.

Глава 7

Неустанная: сеть всегда включена

Люди привыкли к тому, что их дела, мысли, поступки не остаются без внимания других людей. Члены семьи, друзья и соседи всегда хотели знать, что делают и чувствуют их близкие, и близким всегда было небезразлично, какими их видят и что о них знают окружающие их люди. Социальные иерархии, политические маневры и романтические отношения требуют от человека постоянных усилий по расшифровке мыслей и чувств других людей, а иногда и по сокрытию собственных мыслей и чувств.

С появлением и развитием централизованных бюрократических сетей одной из важнейших функций бюрократии стала слежка за населением. Правители, священники и торговцы стремились выведать секреты граждан, чтобы контролировать их и манипулировать ими.

Конечно, наблюдение необходимо и для оказания полезных