Власть и прогресс - Саймон Джонсон

Яркую иллюстрацию этого феномена дает нам история торговли свежей рыбой в южноиндийском штате Керала, настоящую революцию в которой совершили мобильные телефоны. Наловив в море рыбы, рыбаки из Кералы везут ее к торговцам на какой-нибудь прибрежный базар. Прежде нередко случалось, что на каком-либо базаре предложение превышало спрос, торговцу приходилось снижать цену до нуля и выбрасывать нераскупленный товар. В это же время, быть может, на соседнем базаре, всего в нескольких километрах оттуда, рыбы было мало, а покупателей много – цена взлетала до небес, в рыбную лавку выстраивалась длинная очередь, и все равно всем не хватало. Но с 1997 года в Керале начала распространяться мобильная связь. Рыбаки и торговцы рыбой стали использовать мобильники для получения информации о рыбных поставках и спросе на рыбу на разных базарах. В результате и ценовой разброс, и потери от нераскупленной рыбы резко снизились. Экономическая основа этой истории очевидна: новая технология связи позволила создать унифицированный рыбный рынок – а внимательное изучение этого эпизода показывает, что он принес значительную пользу и рыбакам, и рыботорговцам, и потребителям.

Возможность образования новых связей и создания новых рынков с появлением цифровых технологий резко увеличивается, и некоторые платформы уже этим воспользовались. Вдохновляющий пример – система безналичных расчетов и перевода денег M-PESA, введенная в 2007 году в Кении, предоставляющая быстрые и дешевые банковские услуги на основе мобильных телефонов. Уже два года спустя эта система охватила более 40 % кенийского населения, а с тех пор была принята еще несколькими развивающимися странами. По оценкам специалистов, она приносит местным экономикам обширную и разностороннюю выгоду. Другой пример – Airbnb, платформа, создавшая новый рынок посуточной сдачи в аренду квартир: в результате потребители получили более разнообразный выбор, владельцы квартир – возможность заработка, а у сетевых отелей появились конкуренты.

Даже в таких областях, которые ИИ автоматизирует более или менее успешно – например в переводе, – существуют комплементарные альтернативы, основанные на создании новых платформ. Так, вместо того чтобы полагаться на полностью автоматизированный перевод, зачастую низкого качества, можно создавать платформы, на которых люди, нуждающиеся в языковых услугах, ищут и находят квалифицированных носителей языков со всего мира.

Необязательно ограничивать новые платформы теми, что специализируются на денежных транзакциях. Децентрализованные цифровые структуры позволяют выстраивать платформы для самых разных форм сотрудничества, обмена знаниями и опытом или коллективного действия – об этом мы подробнее поговорим в главе одиннадцатой.

Упомянутые нами успехи ПЗМ по праву заняли свое место в «зале славы» цифровых технологий и открыли дорогу для неисчислимого множества других инноваций. Однако в нынешнем развитии «цифры», сосредоточенном на ИИ, они выглядят маргинальными. По оценке McKinsey, из 26–39 млрд долларов, составляющих общую стоимость работы над ИИ для всего мира, 20–30 млрд тратят несколько крупных IT-компаний из США и Китая. К сожалению, все указывает на то, что большая часть этих средств расходуется на сбор огромных массивов данных, цели которого все те же – автоматизация и наблюдение.

Почему же IT-компании не создают такие инструменты, которые бы помогали людям и в то же время увеличивали производительность? Для этого есть несколько причин, и все немало сообщают нам о тех более фундаментальных закономерностях, с которыми мы здесь сталкиваемся. Рассмотрим пример с индивидуальным обучением – и вспомним, что новые задачи, как в этом примере, полезны в том числе потому, что увеличивают производительность, предлагая людям (в данном случае учителям) новую работу, осмысленную и высокооплачиваемую. Однако чем больше учителей, тем больше придется им платить – а школы и так стеснены в средствах. Большинство государственных школ, как и других современных организаций, вынуждены сосредоточиться на урезании расходов: нанимать дополнительных учителей они и не могут, и не хотят. Следовательно, новые алгоритмы автоматического преподавания или автоматического выставления оценок выглядят для них более привлекательно.

То же верно для здравоохранения. Хоть США и тратит на здравоохранение 5 трлн долларов ежегодно, больницы очень стараются не увеличивать, а сокращать число медсестер; эта нехватка персонала ярко проявилась и болезненно сказалась во время эпидемии COVID-19. Новые технологии, повышающие возможности и ответственность медсестер, означают, что для качественного обслуживания пациентов медсестер придется нанимать больше. И это наблюдение возвращает нас к исходной точке: машины, комплементарные по отношению к человеку, непривлекательны для организаций, сосредоточенных на снижении расходов.

Еще одна проблема состоит в том, что новые платформы и новые методы сбора и предоставления пользователям информации открывают и неизвестные ранее возможности для эксплуатации друг друга. Так, Всемирная паутина достаточно быстро стала не только источником полезной информации для всех, но и платформой для цифровой рекламы, и местом распространения дезинформации. Системы рекомендаций часто используются, чтобы подтолкнуть потребителей к выбору определенного продукта – в зависимости от того, кто предлагает платформе финансовые вливания. Цифровые инструменты могут предоставлять начальству информацию, облегчающую не только принятие решений, но и слежку за подчиненными. Некоторые рекомендации, выдаваемые ИИ, обнаруживают и распространяют существующие предрассудки, например расистские предубеждения в сферах найма или системы правосудия. Платформы – агрегаторы доставки и такси навязывают работникам, не имеющим защиты или гарантий занятости, кабальные соглашения с тяжелейшими условиями труда. Как видим, даже самые многообещающие применения комплементарного принципа остаются зависимыми от рыночных стимулов, от видения и приоритетов IT-лидеров, а также от уравновешивающей силы рабочих организаций.

Кроме того, на пути к комплементарным человеку машинам вырастает еще один, столь же непреодолимый барьер. В тени теста Тьюринга, на волне всеобщей увлеченности иллюзией ИИ ведущие исследователи в этой сфере стремятся достичь равенства машины с человеком; и их окружение ценит и уважает достижения в этой области, ставя их выше ПЗМ. В результате развитие инноваций стремительно движется в сторону отъема задач у людей и передачи их ИИ-программам. Разумеется, подкрепляют эту тенденцию и финансовые вливания от крупных организаций, заинтересованных в алгоритмах, позволяющих снизить расходы на сотрудников.

Неуместные технологии

За иллюзию ИИ в индустриализированном мире расплачиваются не только работники и граждане.

Несмотря на наблюдаемый в последние 50 лет экономический рост во многих странах «третьего мира», более 5 млрд человек в развивающихся странах по-прежнему выживают менее чем на 10 долларов в день. Это означает, что им не всегда доступно даже удовлетворение базовых жизненных потребностей: полноценное питание три раза в день, одежда, съем жилья, лечение. Многие надеются, что проблему бедности поможет смягчить научно-технический прогресс. Достаточно взять новые технологии, разработанные и усовершенствованные в США, Европе или Китае, перенести в развивающиеся страны – и это подстегнет их экономический рост. Важнейшими ингредиентами этого