Революция разума: на подступах к Сингулярности. Как технологии изменят общество и сознание - Рэймонд Курцвейл

миллионов строк текстовых сообщений, а также подробного описания интересов и привычек нужного человека, интервью с теми, кто хорошо его знал. Отношение людей к таким технологиям будет различаться в зависимости от культурных традиций, моральных принципов и личных предпочтений. Однако у тех, кто пожелает создать репликанта, будет такая возможность.

Это поколение аватаров для «второй жизни» будет выглядеть весьма реалистично. Однако для многих людей они все равно останутся персонажами из «зловещей долины»83. Я имею в виду, что поведение этих двойников будет ощутимо отличаться от того, как общался их живой прототип, что может оказаться весьма болезненным для тех, кому ушедший человек был дорог. Такого репликанта еще нельзя будет назвать «Вы-2», так как воссоздана будет не вся информационная структура мозга, а только ее проявление во внешнем мире. Значит, согласно теории панпротопсихизма, репликанты не смогут вернуть к жизни субъективное сознание человека. Тем не менее многие согласятся, что такие машины будут полезны для продолжения важной работы и сохранения ценных воспоминаний, а также смогут помочь членам семьи смириться с потерей.

Поначалу мы сможем иметь дело с репликантами только в виртуальном пространстве или в рамках дополненной реальности, однако к концу 2030-х годов нанотехнологии позволят им обзавестись реалистичными телами (фактически превратиться в человекоподобных андроидов). В 2023 году успехи в этой области еще весьма скромны, но исследования, которые должны привести к прорыву в следующем десятилетии, уже активно ведутся. Несколько десятилетий назад мой друг Ханс Моравец высказал соображение, известное теперь как парадокс Моравеца 84. Его суть в том, что задачи, которые для человека необычайно трудны, например извлечение квадратного корня из большого числа или запоминание большого количества информации, для компьютера не представляют большой трудности. И наоборот, когнитивные функции, которые человеческий мозг выполняет без особых усилий, – распознавание лиц или удержание равновесия при ходьбе – оказываются сложной задачей для компьютера. Вероятно, так получилось потому, что эволюция в течение сотен миллионов лет тренировала наш мозг для решения вполне определенных задач, в то время как «высшая» умственная деятельность и поддержка работы сознания осуществляются в неокортексе, который приобрел современное строение всего лишь несколько сот тысяч лет назад85.

В последние годы, однако, разработчики ИИ добились существенных успехов в преодолении парадокса Моравеца. В 2000 году компания Honda представила робота ASIMO, который поразил экспертов своей устойчивостью, аккуратно прошагав по плоской поверхности без единого падения86. К 2020 году компания Boston Dynamics разработала роботов, способных бегать, прыгать и перекатываться, преодолевая полосу препятствий с ловкостью, которой позавидуют многие люди87. Роботы, предназначенные для общения, такие как Sophia и Little Sophia от Hanson Robotics, а также Ameca, разработанный фирмой Engineered Arts, обладают человекоподобными лицами и могут демонстрировать эмоции88. Хотя пресса иногда преувеличивает их возможности, прогресс в этой области очевиден.

Когда технологии станут достаточно продвинутыми, у репликантов, а также и тех из нас, кому посчастливится дожить до тех времен, появится выбор из множества разнообразных вариантов тел. Рано или поздно для репликантов будут созданы дополненные кибернетикой биологические тела, выращенные на основе ДНК человека, послужившего их прототипом, если, конечно, сохранится его биологический материал. А как только нанотехнологии позволят инженерам работать на молекулярном уровне, мы сможем создавать намного более совершенные тела, чем те, что дала нам природа. К этому времени воскрешенные люди больше не будут своими странностями напоминать персонажей мистических фильмов, по крайней мере, большинству окружающих.

Появление репликантов неизбежно поставит перед обществом новые философские вопросы. Ответы на них будут зависеть от ваших взглядов на такие понятия, как душа, сознание, личность. Будет ли достаточно того, что человек, воссозданный с помощью технологий, похож на вашего близкого в общении? Будет ли иметь значение, использовались ли при создании репликанта технологии ИИ и обработка данных, или же вся информация была скопирована напрямую из мозга живого человека, чтобы получился тот самый «Вы-2»? Как показывает история Евгении Куйды и Романа Мазуренко, даже относительно несовершенный двойник может стать для кого-то источником тепла и утешения. Сейчас трудно предсказать, какова будет реакция любого из нас, когда мы в первый раз столкнемся с чьим-то репликантом. Обществу придется постепенно адаптироваться к наличию таких технологий. Скорее всего, будут приняты законы, регулирующие, в каких случаях можно создавать двойников умерших людей и что дозволено с ними делать. Кто-то будет возражать против создания своих копий, в то время как другие оставят подробные инструкции и даже, быть может, еще при жизни примут участие в создании своих репликантов.

Нам предстоит решить множество социальных и юридических проблем:

– Следует ли считать репликантов полноценными участниками гражданского общества, обладающими всеми правами и свободами, включая право избирать, быть избранным и заключать договоры?

– Должны ли они нести ответственность за действия своего прототипа, в частности, подписанные договоры или совершенные преступления?

– Если прототип репликанта выполнил работу или внес вклад в благосостояние общества, может ли репликант поставить это себе в заслугу?

– Нужно ли заново заключать брак с репликантом своего умершего партнера?

– Не будут ли репликанты подвергаться дискриминации или даже травле?

– В каких случаях следует запрещать или ограничивать создание репликантов?

Появление репликантов заставит большее количество людей задуматься о философских загадках, которые мы обсуждали в этой главе: что такое сознание? Что определяет мою личность? До сих пор рассмотрение этих вопросов оставалось уделом теоретиков. До появления роботов, способных пройти тест Тьюринга и воссоздать поведение умершего человека, остается уже меньше времени, чем прошло с момента выхода моей книги «Эволюция разума» (2012). Мышление на уровне настоящего человека приведет к появлению у них сознания и, как следствие, убежденности, что они и есть тот человек. Будет ли их уверенность означать, что они правы? Как доказать обратное?

В начале 2040-х годов нанороботы смогут проникать в мозг живого человека и копировать оттуда всю информацию, определяющую его личность и воспоминания. Это позволит создать «Вы-2». Этот субъект будет в состоянии пройти индивидуально-ориентированный тест Тьюринга и убедить собеседника, лично знавшего его прототипа, что перед ним тот самый человек. Все измеримые параметры будут указывать на то, что этот человек настоящий. Поэтому если считать, что личность определяется информацией, составляющей воспоминания и образ мышления, то он и правда будет тем самым человеком. Вы сможете начать или продолжить отношения с ним, иметь с ним физический контакт, в том числе сексуальный. Конечно, могут быть небольшие отличия, но разве живые люди не меняются? Обычно это происходит постепенно, но может случиться и внезапно из-за войны, травмы, смены социальной роли или под влиянием