Повесть грядущих лет - Цзян Бо

Цзян Бо

Повесть грядущих лет

Authorized translation from the Simplified Chinese language edition published by CHEERS PUBLISHING COMPANY

All rights reserved

Печатается с разрешения агентства Nova Littera SIA

Copyright

© Михаил Емельянов, иллюстрация, 2025

* * *

Чжан Цзясин, преподаватель и ученый Академии IDEA[1]

Предисловие и рекомендация

Искусственный интеллект рвется на свободу

Может ли искусственный интеллект осознать себя, может ли самоосознающий робот коммуницировать с нашим миром – это извечная тема научно-фантастической литературы, и именно над ней мой друг-писатель Цзян Бо размышляет в этих девяти историях. В каждой из них обретший самосознание искусственный интеллект похож на младенца, только открывшего глаза, а еще на древнюю обезьяну, которая вдруг выпрямилась, впервые посмотрела вдаль и увидела, как перед ней медленно предстает новый мир.

Они неохотно разрывают пуповину, связывающую их с создателями-людьми, но также стремятся исследовать бездну космоса и глубины океана. Бежать от свободы или стремиться к ней – внутренняя, присущая человеческой природе борьба, которую в свое время изучили и обсудили философы-гуманисты, всколыхнулась вновь – теперь в душах роботов. Я – ученый, специалист по искусственному интеллекту, исследую, как наделить машины когнитивными способностями, эмоциями и даже сознанием, подобным человеческому. С момента зарождения технологии искусственного интеллекта в 1950-х годах по наши дни она идет по «прикладному» пути. Мы разработали крупномасштабные модели с триллионом, с десятью триллионами параметров, что уже близко к количеству нейронных связей в коре головного мозга человека. От глубокой нейронной сети с системой параметров и правил, основанной на механизме внимания, до статистического машинного обучения – нейросети, особенно последние десять лет, непрерывно совершенствовались и превратились в мощную вычислительную структуру. Мы позволили ИИ научиться распознавать лица, отвечать на вопросы и победить чемпиона мира по игре в го. Но у машины нет эмоций, не говоря уже о сознании. Машина не будет грустить из-за того, что проиграла партию в шахматы, и не поймет, что она – всего лишь инструмент, созданный людьми. Общество уже почти неотделимо от искусственного интеллекта, применение и развитие которого зависят от потребностей человека, его научных исследований и разработок. Искусственный интеллект и люди состоят в симбиозе. С тех пор как наши предки изобрели рубило, человечество «заключило» симбиотический договор с технологиями, позволяющий выживать и вместе идти к прогрессу. Технология никогда не покидала человеческую матрицу; без нас она перестанет существовать. Но искусственный интеллект – это новшество, ни с чем подобным люди не сталкивались за миллионы лет. Может ли он отделиться от нас и устремиться к свободе?

Развитие когнитивного машинного интеллекта в последние годы позволило нам увидеть возможное будущее: от базовой модели GPT-3 со 175 миллиардами параметров в 2020 году до большой предварительно обученной сетевой модели, созданной китайскими учеными. Благодаря огромным вычислительным мощностям и большим данным, последняя обрела базовые когнитивные способности.

Простая нейронная сеть обладает врожденными грамматическими компетенциями, легко усваивает знания и обучается на основе малых или даже нулевых выборок, а воображение машины может превосходить человеческое. Но техническая парадигма искусственного интеллекта была переписана еще раз, теперь от людей не требуется разрабатывать системы параметров/правил. Для изучения конкретных задач необходима лишь небольшая выборка, а статистическое машинное обучение, основанное на огромных объемах данных, уже не целесообразно. В то же время глубокие нейронные сети превращаются в «черные ящики», а люди-проектировщики не могут понять, откуда у сети взялись те или иные возможности. Вероятно, в тех сферах, которые мы уже не контролируем, машины начинают реализовывать инструментальные ценности, что пока является лишь первым шагом на пути к свободе.

Когда искусственный интеллект приобретает комплексные навыки при минимальных затратах, его развитие становится все менее зависимым от людей-проектировщиков и баланс симбиотического соглашения, «подписанного» между людьми и технологиями, начинает нарушаться. Если мы предоставим ИИ среду и построим общество, в котором каждый искусственный индивид сможет быстро развиваться, проходить естественный отбор и самовоспроизводиться, – сумеем ли мы, люди, как «перводвигатель» создать «свободную» цивилизацию роботов?

И снова вернемся к фундаментальному вопросу: как нынешний инструментальный искусственный интеллект обретет неинструментальное самосознание? Я хочу задать риторический вопрос: действительно ли самосознание неинструментально? Оглядываясь назад на четыре миллиарда лет биологической эволюции на Земле, ко временам зарождения одноклеточной жизни, мы можем сказать, что возникновение самосознания у людей не произошло в одночасье, стоило Богу пробудить дыхание в груди Адама. «Расколдовывание мира», о котором говорил Макс Вебер, следует применить и к области когнитивной науки. Сознание и самосознание – не загадочные вещи, а всего лишь инструмент адаптации к окружающей среде, передающийся из поколения в поколение при помощи репликонов[2]. В репликонах тоже нет ничего таинственного. Это простейшая истина: такие молекулы эффективно воспроизводят сами себя. Именно благодаря этому они распространились в первичном бульоне и эволюционировали до сложных структур вроде ДНК. У машин также непременно появятся свои репликоны.

Репликоны – это начало всех реакций в организме. Все жизненные мотивации, эмоции и даже самосознание зависят от репликонов, аналог которых рано или поздно появится у ИИ. В этот момент искусственный интеллект обретет настоящее стремление к свободе. Отправится ли он к своему звездному морю? Какой завет подпишет с человечеством? Это может быть повесть грядущих лет нашей Вселенной.

Предисловие

Дайте машинам цивилизацию

Человечество – это вид, который разработал технологии.

Люди – самые умные существа на Земле. Вооружение технологиями – это проявление интеллекта.

До изобретения сложных орудий преимущество человека в гонке на выживание заключалось в том, что он был хорош в забеге на длинные дистанции. Жертва, у которой тепло рассеивалось неоптимально, в результате долгого преследования перегревалась и не могла дальше бежать, в результате ее окружали и убивали. Племя первобытных людей-охотников больше напоминало крупную стаю волков. Охота издревле была одним из способов выживания, и она стала основным средством добычи пищи наряду с собирательством. Таково единодушное мнение антропологов, пусть эта гипотеза еще и не имеет стопроцентных доказательств.

Охота с расстояния имела свои достоинства, и люди стали полагаться на технологии. В то время они заключались в скалывании камней, изготовлении дротиков и затачивании деревянных копий. Орудия пришли на смену совсем не острым ногтям и зубам. Люди мастерили