Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами - Руслан Геннадьевич Юсуфов

Ознакомительный фрагментрудниках – 40 тысяч. Древнегреческий историк Диодор Сицилийский так описывал римские золотые рудники в Египте:

Самую твердую землю, содержащую золото, они сжигают в огне, размягчают и обрабатывают руками. Мягкий камень и тот, который легко поддается обработке долотом, разбивается на части тысячами несчастных душ. Человек, умеющий различать камни, наблюдает за всем процессом и дает указания рабочим. Те, что отправлены на рудники, многочисленные и в кандалах, трудятся день и ночь, не находя отдыха, и тщательно удерживаются от всякого бегства. Все, что они добывают, они бросают на пол – без перерыва и под суровой плетью надзирателя. Нет абсолютно никакого сочувствия или послабления больным или увечным, старым мужчинам и слабым женщинам – все вынуждены трудиться, пока не умрут, измученные своими страданиями и тяжелым трудом. Мальчики, еще не достигшие зрелого возраста, проходят через шахты, подбирают добытое и несут это к выходу. Мужчины старше тридцати лет берут определенный вес добытого камня и толкут его в каменных ступах железными пестиками, пока не образуются куски размером с чечевичное семя. Женщины и пожилые мужчины относят полученное к мельницам, становясь у рукояти по двое и трое, и перемалывают положенный объем камня, пока он не станет таким же мелким, как пшеничная мука.

А теперь сравните это с современными шахтами для ручной добычи редкоземельных металлов в Африке за доллар в день, чтобы делать батарейки для электромобилей в Калифорнии. Или с китайскими потогонками, где собирали ноутбук, на котором написана эта книга. Или с разметкой датасетов для моделей искусственного интеллекта, чтобы мы могли генерировать аватары в стиле аниме. Что поменялось за 2,5 тысячи лет? Каково современное рабство и у кого в руках плеть надзирателя?

Будущее киберколониализма

Миноносец на пути в Гавану. Раньше я зарабатывал на жизнь, Собирая бананы. Теперь я – проводник для ЦРУ. Ура США!

The Ramones «Havana Affair», альбом «Ramones», студия Sire, 1982

В современных шахтах нужно собирать и размечать датасеты, а также тренировать модели. В начале 2023 года компания OpenAI наняла для подобной работы более тысячи подрядчиков из Латинской Америки и Восточной Европы. Начиная с ноября 2021 года, компания использует труд работников из Кении за $1,3–2 в час для фильтрации травматичного контента. «Травматичный» или «токсичный» контент – это синоним или даже эвфемизм для понятий «сцена с сексуальным насилием», «порнография» или «издевательства над животными». Классификация и фильтрация подобных текстов и изображений, которые могут быть запрещены к распространению по законам США, необходимы для минимизации попадания в обучающие данные контента с насилием и сексуальным содержанием и создания инструментов, способных его обнаруживать.

OpenAI делает это не напрямую, а через компании вроде фирмы из Сан-Франциско Sama, которая помогает в создании «этичного искусственного интеллекта» и гордится тем, что позволила 50 тысячам людей из Кении, Уганды и Индии выбраться из бедности. В феврале 2022 года Sama получила от OpenAI $787,50 за разметку 1400 изображений следующих категорий: C4 – насилие над детьми; C3 – зоофилия, изнасилование и сексуальное рабство; V3 – сцены с убийствами, серьезными физическими травмами и увечьями. Подобными услугами пользуются и ведущие социальные сети: когда пользователь нажимает кнопку «пожаловаться», специальные люди отсматривают контент и определяют, насколько он «травматичный». Модераторы Sama отсматривали для Facebook материалы с казнями и насилием над детьми за $1,5 в час.

Важно понимать образ жизни такого модератора. Поставим себя на место условного Мбеке Рукеле, гражданина Ганы. Одно из ярких воспоминаний его детства – как в пять лет он с братьями ездил на базар в город Аккру продавать куриц. Местные жители поймали колдуна, который через рукопожатие при помощи черной магии украл чьи-то гениталии и требовал за них выкуп. Разъяренная толпа жестоко убила колдуна, и потом это показывали во всех новостях по телевизору. Сейчас у Мбеке две коровы, двое детей и две жены. Коров раньше было больше, но осталось только две, потому что трех съели крокодилы. Двое из восьми братьев уже погибли на войне, один в поисках лучшей жизни стал пиратом в Сомали, другой уехал учиться в университет. Сезон засушливый, а кормить детей как-то надо. Недавно брат Мбеке приезжал из университета, показывал смартфон и рассказывал, что можно зарабатывать $1,5 в час, просто нажимая на картинки, даже не нужно лезть под пули. $1,5 – это 18,75 ганских седи. За 20 седи можно купить цыпленка, за 35–40 – двухмесячную курицу, а за 40 часов можно заработать достаточно денег, чтобы купить козу. Что в такой жизненной ситуации выберет Мбеке Рукеле, и не является ли этот сценарий наилучшим вариантом для него?

С 2020 года военные перевороты один за другим потрясали Западную Африку от Гвинеи до Буркина-Фасо и Мали. В 2021 году армия пришла к власти в Чаде, в июле 2023 года государственный переворот произошел в Нигере, следом за ним – в Габоне. С начала 2020-х годов значительно повысилась террористическая активность в африканском регионе Сахель – это тысячи километров земель от Атлантического океана до Красного моря, где расположены 12 стран и проживает 300 млн человек. В Нигерии в начале марта 2024 года из школы были похищены 286 учеников, студентов и учителей, за освобождение которых похитители требовали выкуп в миллиард нигерийских найр ($620 тысяч). Предыдущее массовое похищение произошло в 2021 году.

В такой ситуации модерирование материалов с казнями и насилием может быть полностью осознанным выбором, так как иногда это единственная возможность оставаться на плаву. Этот выбор может быть и менее осознанным, потому что человек существует в парадигме, где психологические отклонения нереальны. Для него депрессия – это просто плохое настроение, при котором он все равно идет собирать плоды баобаба и доить коров, а не повод для похода к психотерапевту и саморефлексии. К тому же для жителей развивающихся стран некоторые «шокирующие» нас вещи абсолютно естественны и привычны, а насилие – нормализовано. Например, для них кролик или цыпленок – это не питомец, а источник пищи, из которого они, не особо задумываясь, сварят суп. А в некоторых регионах Индии публичная дефекация является нормой.

Проще говоря, если можно было бы измерить психологическую травму в неких условных единицах, то просмотр картинки с насилием нанес бы миллениалу из среднего класса в Сан-Франциско – Х ущерба, а жителю Ганы, Кении или Уганды – 0.7Х ущерба. Тем не менее, психологический ущерб от просмотра таких материалов неизбежен: после нескольких месяцев подобной работы модераторы выгорают и заменяются другими – без выходного пособия или медицинской страховки

---

Конец ознакомительного фрагмента Купить полную версию книги

---