Реальность на кону: Как игры объясняют человеческую природу - Келли Клэнси

тех пор «альтернативные правые» неоднократно использовали эту тактику для запугивания своих идеологических противников. Геймификация может также использоваться как форма контроля: в некоторых китайских городах репутация граждан оценивается в баллах, а повседневные возможности каждого отдельного человека определяются системой наказаний и поощрений. На ком лежит ответственность за принятие нравственных решений, когда поведение людей конструируется в угоду корпоративным и государственным интересам?

Особенно коварна геймификация трудовых отношений. Она основана на идее, что продуманный дизайн может сделать приятными в остальном неприятные задачи. На деле это сводится к приведению реальных предпочтений людей в соответствие с предпочтениями их работодателей, к эксплуатации их внутренней мотивации и нейронных контуров подкрепления для незаметного насаждения корпоративных интересов. Иными словами, геймификация подменяет то, чего реально хотят люди, тем, чего хотят корпорации. Это уже не раз наносило вред работникам. Сотрудников складов Amazon и водителей такси Uber – корпораций, активно использующих геймифицированные рабочие платформы, – подталкивают к тому, чтобы переместить еще одну посылку, принять еще один заказ. Проведенные исследования связали это с проблемами со здоровьем и несчастными случаями среди работников: под влиянием геймификации они начинают работать слишком усердно и слишком подолгу. Это может быть вредно не только для самих работников, но и для тех, на ком сказывается их работа. Любого, кто имеет дело с людьми, – медработника, сотрудника отдела кадров, работника социальных служб – можно подтолкнуть к дегуманизации своих клиентов. Точно так же как геймификация военных операций увеличивает психологическую дистанцию между солдатами и войной, которую они ведут, геймифицированная рабочая среда может подталкивать работников к сомнительным в нравственном отношении действиям, спрятанным под глянцевой оболочкой игры.

Впрочем, тут мы, вероятно, приписываем геймификации слишком большое могущество; ее возможности не безграничны. Многие рабочие места, которые легко поддаются геймификации, куда выгоднее будет автоматизировать. Любой навык, который можно каким-то образом оценить и оптимизировать, поддается замене машинным трудом. Энтузиасты ИИ давно обещают, что их детище приведет к созданию общества постзанятости, где люди смогут тратить свое время так, как им заблагорассудится. Пророки геймификации дают более скромный прогноз: люди по-прежнему будут работать, но им это будет нравиться. С появлением генеративных моделей мы начинаем наблюдать формирование совсем иной динамики. Робототехник Ханс Моравек заметил, что навыки, которые эксперты изначально считали трудными для автоматизации, например игру в шахматы, оказались для инженеров более простой задачей, чем «немыслительные» способности вроде ходьбы. В последнее время генеративные модели делают успехи в автоматизации создания образов и текстов, однако от автоматизации тяжелого физического труда нас пока отделяют многие годы. Когда-то люди мечтали, что роботы возьмут на себя повседневную рутину, оставив нам возможность заниматься искусством и поэзией. Вместо этого произошло обратное.

Еще одна проблема с геймификацией всего и вся заключается в том, что люди оказались втянуты в игры, на участие в которых они никогда не соглашались, – как на индивидуальном, так и на общественном уровне. Возьмем библию пикаперов, книгу «Игра»[499], согласно которой мужчина «побеждает» в жизни, переспав с как можно большим числом женщин. Если женщины – это очки, то они не являются игроками с собственной агентностью и, таким образом, становятся невольными пешками в игре, участвовать в которой они не давали согласия. Что-то подобное мы видим во многих сферах жизни. Ни в чем не повинные вкладчики банков вынуждены принимать на себя риски, связанные со ставками своих банкиров. Мелкие инвесторы отданы на милость хищников с Уолл-стрит, которые считают рынок игрой с нулевой суммой и действуют так, что это неизбежно оказывается правдой. Мошенники оправдывают свое порочное поведение бездушной подделкой под здравый смысл: «Не вини игрока, вини игру». Если мы сознательно конструируем наши общественные и финансовые системы как игры, мы должны убедиться, что это игры, в которые согласны играть все члены общества, и что выиграть в них может каждый.

Сьютс определил характерную черту игры: в своем стремлении к решению игровой задачи игроки добровольно принимают все ограничения. Игру в гольф можно легко «решить», просто подойдя к лунке и опустив в нее мячик. Но это была бы не игра – цель игры должна быть достигнута честно, при соблюдении правил и уважении границ. В русле этой традиции философ Тхи Нгуен трактует игры как «искусство агентности»[500]. Играя в игру, мы соглашаемся наложить на свою свободу действий определенные ограничения. Игра определяет, какими способностями мы обладаем и к каким целям должны стремиться. Неудивительно, что изучение игр началось с надежды заложить основы нового понимания агентности – того, как делают выбор действующие в мире субъекты. Однако теория игр дает очень неполное представление об агентности, учитывая, что игроки в ней обречены неустанно максимизировать свое вознаграждение. Их выбор уже сделан, он заключен в самой структуре игры. В реальности предпочтение, которое человек отдает тому или иному исходу, не означает, что он будет добиваться этого исхода любой ценой или что он готов принять все побочные последствия своего решения. Мы обычно не знаем последствий решения, пока его не примем. Наши предпочтения не обязательно предопределены заранее: мы уясняем их для себя, приходя к ним благодаря опыту, зрелости и размышлениям о морали.

Если мы хотим создать науку об агентности, ее крайне важно строить на таких принципах, где любой выбор – это свободный акт, а не неизбежность. Гарретт Хардин использовал теорию игр, чтобы представить принудительную стерилизацию как неизбежный вывод, к которому приводит холодная логика. Военные стратеги с помощью теории игр доказывали, что страны мира оказались в ловушке неумолимой гонки вооружений, что привело к распространению ядерного оружия. Многие руководители корпораций говорят об ИИ так, будто у них нет иного выбора, кроме как продолжать его разработку. По их словам, гонка за лидерство в области ИИ – это одновременно и неизбежность, и величайший нравственный провал нашего времени, поскольку она может привести к вымиранию человечества. Вместо того чтобы прибегнуть к моральному суждению, такие руководители с готовностью снимают с себя ответственность, перекладывая ее на свои сформированные теорией игр модели мира. Ирония в том, что опасности, на которые они указывают (что, если модель, которой поручено делать скрепки, превратит в скрепки всю Вселенную?), – это прямое следствие того, что сами их модели являются неустанными максимизаторами. Те, кто бьют тревогу по поводу ИИ, говорят об опасности встраивания максимизации в наши модели, но, как нарочно, не видят опасности максимизации как бизнес-стратегии. Современный капитализм с его сосредоточенностью исключительно на повышении стоимости акций уже чреват опасностями близорукой максимизации.

И все же сами по себе игры – это полезная для понимания человеческого выбора и агентности область. Игры дают игрокам