Свобода слова: История опасной идеи - Фара Дабхойвала

эти интересы зачастую находятся в прямом противоречии. Бизнес-модель онлайн-платформ проста. Она предполагает привлечение как можно большего числа пользователей, привязывание их к своим сайтам, демонстрацию рекламы и зарабатывание на этом денег. Одновременно необходимо вести сбор персональных данных, чтобы точнее нацеливать рекламу и контент, способный удерживать внимание и вызывать зависимость. Возможны и иные способы заработка на персональных данных, например их продажа другим компаниям. Все это не имеет никакого отношения к достижению свободы слова, демократии, социальной сплоченности и прочих общественных ценностей – корпоративные отсылки к ним в лучшем случае наивная надежда, а в худшем – просто циничная манипуляция[12]. Конечно, эти компании действительно предоставляют сервисы, которыми людям нравится пользоваться, и их влияние может быть социально полезным. В тех регионах мира, где почти нет иных каналов для свободного выражения мнений и независимой журналистики, их появление, в принципе, способно даже оздоровить медиаландшафт, а не ухудшить его (как это чаще случается в развитых демократиях), впрочем, и там опыт использования платформ крайне неоднозначен. Но в конечном счете единственное, что по-настоящему волнует корпорации, – это получение прибыли для владельцев и акционеров. Именно поэтому их практика модерации контента так часто и так безнадежно проваливается.

Проблема модерации онлайн-контента – это лишь отчасти вопрос масштаба и внутренне присущей сложности. В гораздо большей степени это вопрос денег: необходимость задействования людей для выполнения тяжелой и неприятной работы по бесконечному отсеву оскорбительных текстов и изображений, определению их смысла и последствий. Частично такую работу можно автоматизировать, но, поскольку посыл высказываний чрезвычайно зависит от контекста, она в значительной мере требует человеческого суждения. Неудивительно, что большинство социальных сетей справляются с блокировкой сексуального контента намного успешнее, чем с разжиганием ненависти. Гораздо проще научить алгоритм распознавать изображения гениталий, чем интерпретировать нюансы потенциально антисемитских, исламофобских или лживых высказываний. Между тем операторы сетей крайне неохотно тратят деньги на такую неприбыльную ручную работу и всеми силами стараются скрыть мрачную реальность своих модераторских практик от глаз общественности. Журналистские расследования обнаруживают одну и ту же картину – по сути, это грязная работа, которую отдают на аутсорсинг ничтожно малому числу плохо оплачиваемых и перегруженных подрядчиков в странах с дешевой рабочей силой (и, как правило, возглавляемых теми, кто весьма отдаленно знаком с языковой и культурной спецификой регионов, где работает платформа). По сравнению со стремлением руководителей социальных сетей быстро монетизировать внимание пользователей борьба с вредным контентом имеет самый низкий приоритет, особенно когда речь идет о далеких зарубежных рынках. Кроме того, именно это направление первым пускают под нож при любой оптимизации затрат. Взять хотя бы Twitter – после покупки этой сети Илоном Маском ее глобальные подразделения модерации были быстро ликвидированы.

Тот факт, что этими социальными сетями руководят американцы, только усугубляет проблему, поскольку они по умолчанию принимают на веру догмы нынешней американской доктрины свободы слова, согласно которым слово – не действие; с вредными высказываниями следует бороться контрвысказываниями, а не с помощью цензуры; американский контент-нейтральный подход самый правильный; на рынке мнений может быть представлена любая идея; правда всегда восторжествует; статья 230 полностью освобождает от ответственности; а индивидуальная свобода – высшее благо. Это не те принципы, на основе которых кто-то станет считать редакторское вмешательство в чужие онлайн-высказывания чем-то желательным, не говоря уже о признании его жизненной необходимостью.

Однако глубинная проблема заключается в том, что сами цели модерации контента – предотвращение вреда и дезинформации – прямо противоречат корпоративному приоритету: зарабатыванию денег. Когда в 2010-х гг. Facebook пришла в Мьянму, как раз в момент стремительного распространения интернета, она быстро получила почти монопольное положение в онлайн-коммуникации и вскоре стала использоваться военной диктатурой и ультранационалистами для разжигания ненависти и насилия против этнических меньшинств. Компания практически ничего не сделала, чтобы остановить это. Она не имела офиса в стране, не знала местный язык, у нее почти не было сотрудников, которые могли бы контролировать использование платформы или отфильтровывать пропаганду насилия и геноцида. Все, что ее интересовало, – это увеличение доли рынка.

В Индии, где сейчас у Facebook сотни миллионов пользователей, говорящих на десятках языков, платформа столь же печально известна своей неготовностью пресекать систематическое распространение ненависти и подстрекательства к насилию со стороны индуистских националистов, поддерживающих все более авторитарное правительство. Даже когда собственные, до крайности перегруженные модераторы Facebook бьют тревогу, местное руководство компании часто игнорирует их сигналы, чтобы не испортить отношения с националистически настроенными политиками. Twitter (ныне X) ведет себя сходным образом. «Мы только что пообещали Уолл-стрит утроить численность пользователей, – объяснил в частном разговоре бывший руководитель компании в 2023 г., – и единственным способом добиться этого была Индия». В любом случае, как эти корпорации не раз демонстрировали у себя на родине, провокационный и экстремальный контент на деле выгоден для бизнеса. Он генерирует клики и вовлеченность. Он сам себя продвигает: тренирует алгоритмы подбирать все наиболее экстремистское, удерживает пользователей куда эффективнее, чем здравый смысл и скучные обсуждения. А поскольку такая бизнес-модель вознаграждает независимых создателей контента, которым удается собрать немалую аудиторию, многие теперь стали хорошо зарабатывать на сознательном распространении лжи в сети. Если вы хотите зарабатывать серьезные деньги, попытки устранить вредные высказывания становятся помехой.

Вряд ли в обозримом будущем американские политики смогут эффективно решить эти проблемы. Причина не только в том, что компании – владельцы социальных сетей в США невероятно богаты, могущественны и влиятельны, и не в том, что вопрос о регулировании высказываний в сети давно стал предметом ожесточенной политической борьбы, умело подогреваемой правыми политиками, которые обвиняют своих оппонентов в партийной цензуре. Гораздо важнее, что сама практика этих компаний является воплощением сути американских представлений о свободе слова в целом. Либертарианская революция в прецедентном праве в сфере Первой поправки, произошедшая в последние десятилетия, оставила американцам такую версию свободы слова, которая совершенно не приспособлена к нынешней цифровой эпохе. Мантра о строгой нейтральности в отношении содержания и взглядов мало помогает в борьбе с лавиной дезинформации, распространяемой недобросовестными участниками и подкрепляемой корпоративными алгоритмами, равно как и предположение, что истина непременно проявится в открытой и нерегулируемой дискуссии. Явное освобождение корпораций от ответственности за распространение и продвижение опасных идей, а также запрет для публичных фигур на защиту от возмутительной клеветы едва ли можно считать оптимальными условиями для торжества истины и защиты демократии. Ни принцип отделения слова от действия, ни догма о том, что ненавистнические высказывания лучше всего развенчиваются контрвысказываниями, ни вера в то, что подавлять высказывания нельзя никогда и ни при каких обстоятельствах, не слишком убедительны на фоне пропаганды травли, насилия и убийств, координируемой и распространяемой по всему миру в сети.

Предположение, что свободный рынок и добровольные действия корпораций якобы