Цена бессмертия - Питер Уорд

часто встречающихся людей[301]. В ходе просмотра видеозаписи общения с BINA48 не возникает ощущение, что разговор ведется с настоящим человеком, и это мы даже не говорим об отсутствии у робота тела. Движения ее лица кажутся неловкими, голос напоминает стандартный голос компьютера, а не человека. Несмотря на это, ее разговорные навыки впечатляют.

Примерно в 2014 году художница по имени Стефани Динкинс увидела видео с BINA48 в действии и была удивлена тем, что одна из самых передовых технологий, которые она видела, представлена в образе чернокожей женщины.

– Это потрясло меня, я не понимала, как чернокожая женщина стала символом технологии, – сказала афроамериканка Динкинс в более позднем интервью[302]. – Я сразу же захотела узнать, можно ли мне встретиться с роботом и поговорить с ним, чтобы понять его связь с идеей технологии, а также его отношение к людям.

После общения с машиной Динкинс запустила арт-проект под названием «Беседы с Биной48». Поначалу, в 2014 году, многое в их общении с роботом представлялось ей ненастоящим. По словам Динкинс, когда она спросила BINA48 о расизме, ответ оказался «провальным». Она пришла к выводу, что, хотя робот имел внешность чернокожей женщины, на него повлияли установки белых мужчин, которые его создали. BINA48 улавливала социальные отношения и другие сигналы из разговоров в реальном мире, постоянно учась у окружающих людей. А так как в первоначальных алгоритмах, использованных при создании робота, не было иного содержания, кроме взглядов его создателей, BINA48 вряд ли мог усвоить жизненный опыт людей из разных слоев общества.

Стефани в интервью также отмечала: «Я критиковала подход к созданию алгоритмов, к тому, какие данные при этом используются, откуда они берутся и почему и что это значит для людей. Если алгоритм использует данные, которые являются предвзятыми, данные, содержащие исторические предубеждения или предубеждения людей, создающих программное обеспечение, то как можно изменить то, что закодировано в системе?»[303]

Позиция Динкинс вызывает серьезное беспокойство у сторонников цифрового бессмертия. Данные, собранные у людей перед смертью, должны будут обрабатываться программным обеспечением, а оно включает алгоритмы и предположения, заимствованные из реального мира. В случае наличия предрассудков в алгоритмах идентичность человека может быть утрачена. Искусственный интеллект все еще находится в зачаточном состоянии, но он уже пережил то, что The New York Times назвала «проблемой белого человека»[304].

В прошлом системы искусственного интеллекта, используемые в программах распознавания изображений, классифицировали чернокожих людей как горилл и не смогли распознать паспортную фотографию азиата, потому что сочли его глаза закрытыми. Во многих других случаях, не в последнюю очередь в результате работы алгоритмов предиктивного полицейского контроля, внедренных в таких городах, как Чикаго и Новый Орлеан, полиция получала возможность выявлять людей, якобы предрасположенных к совершению преступлений, что, по мнению некоторых, ведет к профилированию[305]. Наиболее очевидное решение этой проблемы – сделать так, чтобы команды, создающие системы искусственного интеллекта, были как можно более разнообразными и могли понимать социальные различия и работать с ними.

В этом плане дела идут не так хорошо. Отчет, опубликованный в 2019 году, показал, что в компаниях Google и Microsoft – двух крупнейших работодателях в сфере технологий и основных игроках в мире ИИ – доля сотрудников, которые являются чернокожими или латиноамериканцами, выросла менее чем на один процентный пункт по сравнению с 2014 годом. У Apple дела обстоят не лучше: доля чернокожих работников в компании за тот же период времени осталась на уровне шести процентов, а Amazon вообще не сообщает о демографических показателях своих сотрудников[306]. С такой статистикой трудно представить будущее, в котором крупные технологические игроки смогут предложить какую-либо технологию искусственного интеллекта, созданную разнообразной группой людей со всего мира.

Мартина Ротблатт и Брюс Дункан со всей серьезностью отнеслись к выводам Динкинс и учли ее опасения. «Она подняла сложные вопросы о том, почему взгляды BINA48 во многом не совпадают с ее позицией афроамериканки, живущей в США, – сказал Дункан о Стефани Динкинс. – Мы пригласили ее вернуться и предоставить BINA48 обновленную информацию, проведя беседу с Биной Ротблатт о том, какой была жизнь чернокожей женщины по имени Бина в США в конце 1960-х годов. Мы взяли эту информацию, расшифровали ее и включили в текущий майндфайл BINA48. Поэтому теперь она говорит о своей идентичности, о нетерпимости и предрассудках более полно и конкретно»[307].

В своих рассуждениях Дункан вовсе не напоминает безумного ученого, пытающегося сделать робота живым, и на то есть веские причины. Terasem основывается на моральных нормах в той же степени, что и на технологических амбициях, и стремится к тому, чтобы любой прогресс достигался наиболее этичным способом. С особенной горячностью Дункан говорит о важности понимания движущих сил, стоящих за идеей, утверждая, что любой человек, ставящий перед собой цель достичь цифрового бессмертия, должен постоянно спрашивать себя, каким будет мир, если он достигнет успеха, и захочет ли он жить в будущем, которое он создает.

– То, что вы можете сделать нечто, не означает, что это будет вкладом в хорошее будущее. Вам понадобится немного мудрости, немного сострадания и немного интеллекта, чтобы определить, является ли такое будущее жизнеспособным для вас, вашего сообщества, вашего региона или человечества в целом, – заметил Дункан.

Terasem – это не просто два фонда, объединенных в один. Это еще и религия. В 2004 году Ротблатт и близкие ей люди создали третий проект – трансрелигиозное движение «Терасем» (Terasem Movement Transreligion, ТМТ). ТМТ имеет отделения во Флориде и Вермонте и является некоммерческой религиозной организацией. Цель объединения – создать коллективное сознание, состоящее из бессмертного продолжения своих последователей, «присоединившихся». Она базируется на четырех основных истинах[308]:

1. Жизнь целенаправленна. Цель жизни заключается в том, чтобы «создавать разнообразие, единство и радостное бессмертие повсюду».

2. Смерть необязательна. Достаточно понятная идея, во многом связанная с перспективой цифрового бессмертия. «Никто не умирает до тех пор, пока сохраняется достаточно информации о нем. Человек просто находится в состоянии “кибернетического биостаза”. В будущем технология mindware позволит им вернуться, если они того пожелают, к здоровой и независимой жизни», – говорится на сайте религиозной группы.

3. Бог технологичен. Это означает, что по мере внедрения новых технологий, которые становятся все более мощными, мы «создаем» бога, а этичное использование нанотехнологий «в итоге соединит все сознание и будет контролировать космос».

4. Любовь необходима. Эта идея является наиболее важной. Последователи ТМТ убеждены, что любовь делает счастье других необходимым для нашего собственного счастья. «Любовь должна соединить всех, чтобы достичь цели жизни и сделать Бога совершенным»[309].

ТМТ – третья религиозная, или квазирелигиозная, организация, подробно описанная в этой книге. Эта религия отличается от религии People Unlimited и Церкви вечной