Nexus. Краткая история информационных сетей от каменного века до искусственного интеллекта. Юваль Ной Харари. Саммари - Издательство «Синдбад»

Цивилизации рождаются из союза бюрократии и мифологии. Компьютерная сеть – это бюрократия нового типа, она гораздо могущественнее и безжалостнее любой человеческой. Автор предполагает, что эта сеть создаст и новые межкомпьютерные мифологии, более сложные, чем человеческие мифы. Потенциальные выгоды от этой сети огромны, потенциальная угроза – разрушение человеческой цивилизации.

Предупреждения о крахе цивилизации многим кажутся надуманными. Всякий раз при появлении новых мощных технологий звучат мрачные прогнозы, но люди пока еще живы. Так, промышленная революция, вопреки сценариям конца света, привела к появлению самых богатых обществ в истории. А интеллектуальные машины принесут еще больше пользы, обещают энтузиасты ИИ.

И все же у человечества есть веские причины опасаться новых мощных технологий. Автор предупреждает, что новые технологии часто ведут к катастрофам не потому, что они плохи, а потому, что людям требуется время, чтобы научиться разумно их использовать.

В качестве примера автор приводит промышленную революцию. В XIX веке промышленные технологии перевернули традиционные экономические, социальные и политические структуры и открыли путь к созданию совершенно новых обществ, потенциально более богатых и мирных. Однако для этого потребовалось множество дорого обошедшихся экспериментов и сотни миллионов жертв.

Одним из трагических экспериментов стал современный империализм. Считалось, что индустриальное общество может существовать только в виде империи, поскольку только империя может обеспечить его внешними рынками и сырьем и только империи могут распространять технологические новшества в так называемом неразвитом мире. Прошло более столетия страданий, и большинство людей осознали, что промышленные империи – ужасная идея и что существуют лучшие способы построить индустриальное общество и обеспечить его сырьем и рынками сбыта. Вдобавок к прочим катастрофам промышленная революция подорвала глобальный экологический баланс, вызвав волну вымирания видов. Под угрозой оказалось даже выживание человеческой цивилизации.

Казалось бы, имперские завоевания, мировые войны, геноциды и тоталитарные режимы научили людей не повторять эти ошибки. Кто-то скажет, что к концу XX века человечество стало поступать более или менее правильно. Но даже если так, послание XXI веку безрадостно, считает автор. Если человечеству потребовалось столько ужасных уроков, чтобы научиться управлять паровой энергией и телеграфом, во что обойдется ему обучение управлению биоинженерией и ИИ? Технологии XXI века гораздо более мощные и потенциально гораздо более разрушительные, чем технологии XX века. И у людей меньше прав на ошибку.

Демократический путь

К концу ХХ века стало ясно, что империализм, тоталитаризм и милитаризм – не идеальные способы построения индустриального общества. Либеральная демократия, обладающая сильными механизмами самокоррекции, предложила лучший путь. Но совместима ли либеральная демократия со структурой новых информационных сетей?

Одна из потенциальных угроз заключается в том, что компьютерная сеть разрушит частную жизнь. Если правительство или корпорация будет знать о нас больше, чем мы сами, и контролировать все наши действия, это даст им тотальный контроль над обществом. Однако тот факт, что компьютеры позволяют создать режим тотальной слежки, еще не означает, что такой режим неизбежен. Технологии редко что-либо предопределяют. Так, в 1970-х годах демократические страны обладали технологиями, позволяющими развернуть по примеру диктатур армию тайных агентов и информаторов, но они этого не сделали.

Демократии могут использовать возможности наблюдения в ограниченных масштабах, не вторгаясь в частную жизнь граждан, но обеспечивая качественную медицину и безопасность. Крайне важно при этом, чтобы все понимали базовые принципы, которым должны следовать демократические государства.

Первый принцип – благожелательность. Собирая информацию о людях, сеть должна использовать ее им во благо, а не для манипулирования ими.

Второй принцип – децентрализация. Нельзя допускать концентрации всей информации в одном месте, будь то правительство или частная компания.

Третий принцип – взаимность. Если демократическое государство усиливает контроль за гражданами, оно должно одновременно усилить контроль за правительством и корпорациями.

Четвертый принцип заключается в том, что системы наблюдения всегда должны оставлять возможность как для изменений статуса, так и для отдыха. Сеть не должна ни навязывать людям жесткую кастовую систему, ни пытаться насильно их перевоспитывать.

Поступь демократии

Еще одна угроза заключается в том, что автоматизация дестабилизирует рынок труда, а это, в свою очередь, подорвет демократию. Опасения по поводу того, что автоматизация приведет к массовой безработице, уходят корнями вглубь веков, однако до сих пор они не оправдывались: с исчезновением одних рабочих мест всегда появлялись другие. Маловероятно, что через пару десятилетий все человеческие профессии исчезнут; реальная проблема, по мнению автора, будет заключаться в трудностях адаптации к новым рабочим местам. Поэтому нужно заранее обучать молодежь навыкам, которые пригодятся в будущем. Увы, никто не знает, что это за навыки. Далее автор рассматривает несколько ошибочных, на его взгляд, гипотез о будущем рынка труда.

Первая ошибочная гипотеза заключается в том, что интеллектуальные навыки автоматизировать сложнее, а двигательные проще. Однако пока компьютеру гораздо легче обыграть чемпиона мира по шахматам, чем заменить медсестру или кухонного работника, чья работа требует ловкости и развитой мелкой моторики.

Вторая ошибочная гипотеза состоит в том, что только люди обладают творческими способностями, а значит, автоматизировать творческие задачи будет трудно. Однако в шахматах компьютеры уже гораздо креативнее людей, и в будущем они могут превзойти нас во многих других сферах, от музыки до литературы. Под креативностью часто понимают способность видеть закономерности и нарушать их, а компьютеры выявляют закономерности лучше людей.

Третья ошибочная гипотеза состоит в том, что компьютеры не заменят людей в профессиях, требующих эмоционального интеллекта. Если эмоциональный интеллект – это способность верно распознавать чужие эмоции и оптимально на них реагировать, то компьютеры и здесь могут превзойти людей, ведь эмоции тоже представляют собой некие паттерны. Одно исследование показало, что ChatGPT уже способен описывать эмоции людей в определенных сценариях точнее среднего человека, а в другом исследовании пациенты сочли ChatGPT более эмпатичным по сравнению с врачом-человеком.

Конечно, иногда хочется, чтобы специалист испытывал собственные чувства. Хотя люди-шахматисты безнадежно уступают компьютерам, они не лишились работы и поклонников, потому что нам интересны человеческие эмоции. Но даже если компьютеры никогда не смогут испытывать эмоции, люди будут относиться к ним так, как если бы они могли. Мы стремимся к отношениям с сознательным существом, но если мы уже выстроили отношения с некой сущностью, то склонны наделять ее сознанием.

Сегодня чат-боты и другие инструменты ИИ учатся вызывать у людей чувства и сближаться с ними. Это может побудить общество относиться к компьютерам как к сознательным существам и предоставлять им те же права, что и людям. В США, например, за корпорациями как за субъектами права признаются определенные права и свободы. ИИ тоже смогут становиться субъектами права и получать права и свободы. А значит, даже профессии, связанные с выстраиванием отношений, потенциально могут быть автоматизированы.

В ближайшие десятилетия новые рабочие места будут появляться и исчезать, и людям придется переучиваться не один раз, а много. Автор задается вопросом: если три года высокой безработицы в Веймарской республике привели к власти Гитлера, то во что превратят демократию нескончаемые потрясения на рынке труда?

Самоубийство консерваторов

Часть ответа на этот вопрос автор видит в саморазрушении консервативных партий. Демократическая политика издавна представляла собой диалог консерваторов и прогрессистов. Сторонники прогресса обычно преуменьшают важность традиций и институтов и предлагают создать лучшие социальные структуры с нуля. Консерваторы более осторожны и считают, что социальная реальность слишком сложна, а люди плохо прогнозируют будущее, и потому лучше сохранять статус-кво, даже если это кажется несправедливым. И если какие-то изменения неизбежны, их нужно вносить постепенно.

Однако в последние годы консервативные партии во многих демократических странах были захвачены неконсервативными лидерами и преобразованы в радикальные революционные партии. Они не защищают традиционные институты, а относятся к ним с подозрением, отвергая авторитет ученых и других представителей элит. Они утверждают, что эти институты настолько неэффективны, что просто нет иного выбора, кроме как разрушить их и создать новые с нуля. Но это уже революционная, а не консервативная точка зрения. Такое самоубийство консерваторов вынудило прогрессистов