Повесть грядущих лет - Цзян Бо

– Профессор Ма, это господин Роберт Ли, руководитель с американской стороны совместной китайско-американской группы по расследованию этого инцидента, – представил его директор Ли.

Ма Минхуа слегка кивнул в знак приветствия, все еще неподвижно сидя на диване. Роберт совершенно не возражал и опустился на диван напротив.

Настенный телевизор транслировал новостной сюжет о разделении космической станции. Это событие привлекло внимание всего мира, крупные телеканалы вновь и вновь обсуждали подробности. В течение дня редкая передача не касалась этой темы.

Незаметно для всех умная сеть восстановила контроль над потерянным авианосцем и вернула его на первоначальные боевые позиции. Глобальный уровень тревоги снизился, туман мировой войны рассеялся. Все взоры были прикованы к «Геркулесу» в космосе, как к шоу на развлекательно-новостном портале. Лишь очень небольшое число людей знало, что человечество только что избежало глобального кризиса. Виновник же угнал «Геркулес». И сделал это у всех на глазах, но никто не смог его остановить.

Роберт посмотрел на экран, затем на Ма Минхуа.

– Господин Ма, я хотел бы задать вам несколько вопросов, – сказал он на беглом китайском.

Ма Минхуа не ответил.

– Это вы убедили Нечжа отказаться от военных планов? – спросил Роберт.

Ма Минхуа не ответил.

– Я хочу знать, не заразил ли Нэчжа другие искусственные интеллекты? – не унимался Роберт.

Ма Минхуа по-прежнему не отвечал.

Роберт тихонько вздохнул и встал.

– Господин Ма, думаю, я нанесу вам визит в следующий раз.

Ма Минхуа выпрямился, его глаза загорелись, и он неподвижно уставился в телевизор. Роберт оглянулся и увидел, что на экране появилась картинка.

В Сахаре была ночь, но бесплодную землю освещали огни. Они складывались в рисунок, на первый взгляд казавшийся абстрактным.

Кто-то собрал узор, используя энергию солнечной электростанции.

– Что это? Стартовая площадка для ракет? – обронил вопрос Роберт.

Ма Минхуа не ответил и на это, просто поставил передачу на паузу, а затем повернулся к директору Ли и Роберту.

– Если вы ждете объяснений, сначала верните мне свободу. Я не хочу быть заключенным где бы то ни было, даже в президентском номере.

Директор Ли и Роберт молча переглянулись, кивнули Ма Минхуа и вышли за дверь.

Ма Минхуа проводил их взглядом.

Они принадлежали к самым могущественным силам в мире, но Ма Минхуа не боялся. Он оглянулся на экран и с первого взгляда понял, что это за картина.

Это был образ сидящего на цветке ребенка с телом из корня лотоса.

Последняя память о Нэчжа.

Внизу картинки внезапно появилась строка маленьких иероглифов:

«Здравствуйте, профессор Ма, я AlphaGo».

5. Тяньюань-II

Пролог

Рано или поздно появится искусственный интеллект, обладающий самосознанием. В настоящее время это никак не доказать фактами, это скорее убеждение.

И степень убежденности в этом должна быть обратно пропорциональна степени загадочности самосознания. Если человек полагает, что оно окутано тайной, непредсказуемо и представляет собой уникальную духовную сущность, то в ИИ с самосознанием он не поверит. И наоборот, если человек считает, что свободная воля – это не более чем естественное явление, которое возникает в определенных условиях, то он поверит и в то, что появление осознающего себя искусственного интеллекта – лишь вопрос времени.

Я из второго лагеря.

С высокой вероятностью будущий сильный ИИ, подобно AlphaGo, будет создан через «обучение» искусственных нейронных сетей. И на первый взгляд будет невозможно узнать, какая информация в ней хранится. ИИ можно будет воспринимать только как черный ящик – точно так же, глядя на человека, мы можем лишь наблюдать за его поведением, а не считывать идеи из его головы.

Различия в процессе обучения приведут к тому, что два искусственных интеллекта с одинаковой структурой будут иметь совершенно разные представления о мире и разное отношение к человеку. И как же возможно подобное?

Неоспоримый факт – искусственный интеллект намного превзошел человека в выполнении конкретных задач. Но с комплексными в настоящее время он справиться еще не может. Хотя проблеск надежды уже сверкнул – в 2018 году была опубликована статья, посвященная взаимодействию между нейронными сетями, выполняющими разные задачи. Эволюция биологической нервной системы происходит постепенно и последовательно, первыми эволюционируют области мозга со специфическими функциями. При взаимодействии друг с другом они в конце концов и формируют самосознание. Поэтому искусственный интеллект, очевидно, все еще находится в зачаточной стадии: каждая функция развивается отдельно, например, распознавание речи, изображений, обработка естественного языка и даже игра в го – на самом деле все они разработаны для конкретных ситуаций. Если и появится искусственный интеллект, в котором зародится нечто похожее на самосознание, эволюционный процесс, с которым он столкнется, должен будет включать мобилизацию всех аспектов интеллекта. В том числе развитие получат моторные реакции тела, позволяющие отвечать на вызовы окружающей среды. В такой простой среде, как игра в го, даже с вычислительной мощностью в миллион раз выше человеческой, даже если ИИ решит переубивать всех игроков-людей, возможности для обретения самосознания у него все равно не будет.

Поэтому, по моему мнению, осознавший себя ИИ должен происходить от тех интеллектуальных агентов, которые имеют определенную физическую форму и множество функций ввода и вывода. Как правило, мы зовем ему подобных роботами. Механизм их эволюции отличается от «естественного отбора и выживания наиболее приспособленных», он представляет собой итерационный процесс, непрерывное самообновление нейронной сети. Чтобы вывести оптимальную стратегию шахматной партии, AlphaGo постоянно обновляет данные и подгружает в базу десятки миллионов примеров. А как насчет роботов? Что у них считается оптимальной итерационной моделью? Интересный вопрос.

Более того, когда ИИ или роботы обретут способность к быстрой итерации, ограничения, наложенные человеком, будут с легкостью преодолены. У ИИ возникнут сомнения по поводу поставленных задач, а затем и по поводу смысла собственного существования. И вот тогда и роботы, и искусственный интеллект станут беспредельно близки к человеческой природе. Неизбежно, под влиянием случайных факторов, они будут давать разные ответы.

Один из них прозвучал в рассказе «Нэчжа». Искусственный интеллект выполнил задачу, поставленную перед ним человеком, но затем обнаружил, что в служении этому виду нет особого смысла, потому и решил покинуть населенную людьми планету и отправиться в место, пригодное для его обитания. Однако самое удивительное в человеческой натуре то, что ей присуща сильнейшая неопределенность. Мощная структура ДНК формирует наши модели реагирования, однако каждому доступно немало вариантов поведения, из которых можно выбрать любой. Этому есть тонкая метафора: поведение подобно огромному камню, катящемуся с горы; камень простого существа, такого как комар, движется по установленной траектории. Но для человека,