Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски

выглядеть уравновешенными и невозмутимыми на людях, мы, скорее всего, будем искать эти доказательства безмятежно, бросая быстрые, скрытные взгляды на окружающих. Следовательно, каждый, скорее всего, увидит, что все остальные выглядят спокойными и ничего не предпринимают.

Чалдини предлагает в случае, если вам когда-либо понадобится экстренная помощь, указать на одного-единственного прохожего и попросить о помощи именно его, давая предельно ясно понять, к кому вы обращаетесь. Помните, что у всей группы, вместе взятой, может оказаться меньше шансов помочь, чем у одного человека.

Я немного размышлял над эволюционной психологией эффекта свидетеля. Предположим, что в среде наших предков большинство людей в вашей общине, скорее всего, были хотя бы в какой-то степени вашими родственниками — достаточно близкими, чтобы их стоило спасать, если вы были единственным, кто мог это сделать. Но если присутствуют еще двое, то первый начавший действовать несет издержки, в то время как двое других получают генетическую выгоду от спасения дальнего родственника. Могла ли здесь возникнуть гонка вооружений: кто прождет дольше всех?

Насколько я могу судить по этой цепочке рассуждений, такое объяснение вряд ли состоятельно: мне кажется, в точке, где вся группа бездействует, ген, побуждающий помогать немедленно, должен быть способен внедриться в популяцию. Результатом экспериментов оказывается не долгое ожидание перед оказанием помощи, а попросту неоказание помощи: если помогать, когда ты единственный, кто может это сделать, выгодно генетически (а в экспериментах это действительно происходит), то групповое равновесие не должно сводиться к тому, что не помогает никто (как происходит в экспериментах).

Поэтому я не думаю, что гонка на выжидание — это правдоподобное эволюционное объяснение. Более вероятно, мне кажется, что мы имеем дело с проблемой, которой не существовало в среде наших предков. Если испытуемые действительно знают предполагаемую жертву, шансы на помощь резко возрастают (то есть мы не наблюдаем аналога помощи реальному соплеменнику). Если я правильно помню, если испытуемые знают друг друга, шансы на действие также возрастают.

Беспокойство по поводу действий на публике также может играть свою роль. Если Робин Хансон прав насчет эволюционной роли «ступора», то решение начать действовать первым в чрезвычайной ситуации может также восприниматься как опасная заявка на высокий статус. (Если подумать, я не припоминаю, чтобы в анализе эффекта свидетеля обсуждалась застенчивость, но, вероятно, это просто моя плохая память.)

Можно ли объяснить эффект свидетеля главным образом диффузией моральной ответственности? Мы могли бы проявить цинизм и предположить, что люди в основном заинтересованы в том, чтобы их не обвинили в неоказании помощи, а не в том, чтобы действительно хотеть помочь — что они главным образом хотят избежать клейма «антигероя» и возможного возмездия. Нечто подобное вполне может вносить свой вклад, но против этого говорят два наблюдения: (а) испытуемые не сообщали о дыме, идущем из-под двери, хотя он вполне мог представлять угрозу исключительно их собственной безопасности, и (б) информирование людей об эффекте свидетеля снижает этот эффект, хотя вероятность того, что их привлекут к публичной ответственности, от этого не возрастает.

На самом деле эффект свидетеля — это один из главных приходящих мне на ум случаев, когда информирование людей о когнитивном искажении действительно способно сильно его уменьшить — возможно, потому, что правильный способ компенсации очевиден и здесь трудно перекомпенсировать (в отличие от попыток, например, скорректировать свою калибровку). Поэтому нам не следует слишком цинично оценивать последствия эффекта свидетеля и диффузии ответственности, если мы интерпретируем действия отдельного человека как холодную, расчетливую попытку избежать общественного порицания. Люди, судя по всему, по крайней мере иногда считают ответственными себя самих, как только понимают, что они единственные, кто знает об эффекте свидетеля достаточно, чтобы начать действовать.

Хотя мне интересно, что произойдет, если вы знаете, что находитесь в толпе, где каждому рассказали об эффекте свидетеля...

*

1. Бибб Латане и Джон М. Дарли, «Bystander “Apathy”», American Scientist 57, no. 2 (1969): 244–268, http://www.jstor.org/stable/27828530.

2. Чалдини, «Психология влияния».

327. Коллективная апатия и Интернет.

В прошлом эссе я рассматривал эффект свидетеля, также известный как апатия свидетеля: в конкретной проблемной ситуации группа очевидцев на самом деле с меньшей вероятностью примет меры, чем один свидетель. Стандартное объяснение этого феномена строится на понятиях плюралистического невежества (если неясно, является ли ситуация экстренной, каждый пытается выглядеть спокойным, косясь на других очевидцев, и видит, что остальные тоже выглядят спокойными) и диффузии ответственности (каждый надеется, что кто-то другой начнет действовать первым; пребывание в толпе снижает личное давление до такой степени, что никто не делает ничего).

Возможно, это симптом того, что наши механизмы координации, выработанные в эпоху охотников-собирателей, пасуют перед современными условиями. В первобытной среде люди обычно не создавали рабочие группы из незнакомцев; в основном это были знакомые люди. И действительно, когда все участники знают друг друга, эффект свидетеля ослабевает.

Я понимаю, какое это удивительное и революционное наблюдение, и надеюсь, что не убью наповал никого из читателей шокирующим заявлением: людям, похоже, очень трудно конструктивно реагировать на проблемы, с которыми они сталкиваются в Интернете.

Возможно, потому, что наши врожденные инстинкты координации не приспособлены к следующим условиям:

Быть частью группы незнакомцев. (Когда все участники знают друг друга, эффект свидетеля ослабевает.)

Быть частью группы неизвестного размера, состоящей из незнакомцев, чья личность вам неизвестна.

Отсутствие физического (или визуального) контакта; невозможность обменяться многозначительными взглядами.

Отсутствие общения в режиме реального времени.

Отсутствие взаимных обязательств по оказанию других видов помощи; отсутствие взаимозависимости с группой, в которой вы находитесь.

Защищенность от репутационного ущерба — или страха перед ним — благодаря кажущейся анонимности; никто открыто на вас не смотрит — никто, в чьих глазах ваша репутация могла бы пострадать из-за бездействия.

Быть частью большого коллектива таких же бездействующих; никто не выделит конкретно вас, чтобы обвинить.

Отсутствие произнесенного вслух призыва о помощи.

И так далее. У меня нет блестящего решения этой проблемы. Но это именно то, над чем, по моему мнению, стоило бы всерьез поразмыслить потенциальным сооснователям интернет-стартапов, вместо того чтобы придумывать, как бросаться овцами в Facebook. (Да-да, я смотрю именно на вас, Hacker News.) Существуют веб-приложения для онлайн-активизма, но они обычно работают в духе «подпишите эту петицию! ура, вы что-то подписали!», а не «как нам преодолеть эффект свидетеля, вернуть мотивацию и задействовать естественные инстинкты групповой координации через Интернет?»

Вот несколько мыслей, которые приходят на ум:

Разместить в Сети видеоролик с человеком, просящим о помощи.

Публиковать имена, фотографии или даже короткие видео