Полдень XXI век, 2009 № 7 - Арцун Акопян

Изменение всего человечества занимает десятки тысяч лет, да и то процесс остается незавершенным. Прекрасный пример — серия романов «Дюна» Ф. Херберта — десятки тысяч лет проходят до мутации Атридесов и еще несколько тысяч до того, как видно, что человечество распадается и обычные представители вида Homo sapiens уже практически не управляют сами собой — нужны постоянные перестройки, переделки организмов. «Дом глав родов Дюны», последний роман цикла, — это настоящий паноптикум.

Но с появлением жанра киберпанка в самой же фантастике горизонты будущего существенно сужаются. Человек должен не просто сосуществовать, но конкурировать с прогрессирующими машинами. Это даже нельзя сравнить с противостоянием инопланетянам — там способности оппонента стабильны, и человек может к ним приспособиться (победить, проиграть — не суть важно, главное, что будет жить рядом). Но вместе с мощными компьютерами появляется ощущение грядущей большой трансформации.

И громаднейшая проблема фантастики состоит в том, что авторы не очень еще представляют, что делать с бешеным прогрессом искусственного интеллекта.

В оправдание фантастики можно заметить, что эта же проблема стоит и перед футурологией {12}. Для описания будущих возможностей ИИ применяется понятие «сингулярность». Термин заимствован из астрономии, там он означает точку с бесконечно большой массой, температурой и нулевым объемом, т. е. это фактически черная дыра. В контексте электроники термин «технологическая сингулярность» означает создание ИИ и последующее объединение техносферы в единую систему. Подобное объединение сил вызовет настолько значительное увеличение скорости прогресса, что сейчас просто невозможно представить особенности «нового дивного мира».

Разумеется, само слово фантастам известно, существуют даже произведения, в которых даются попытки анализа будущих эпох. Но проблема в том, что все мало-мальски рациональные, реалистичные сюжеты требуют от персонажей нечеловечности, а писатели вынуждены оставлять их людьми. Ведь мало кто захочет сопереживать разумным существам, отказавшимся от собственной человечности?

Тут-то и начинаются увертки фантастики.

Увертка № 1 — всё вернуть к исходному уровню развития технологии. Отмотать пленку. Это не так-то просто сделать, ведь все привыкли к автоматике, к серийным изделиям, к тем каждодневным удобствам, которые дает нам цивилизация. Самый очевидный выход — война с машинами. Старый добрый сюжет: есть хорошие люди, которые хороши уже просто в силу своей человечности, и злые машины, которые в грош не ставят своих создателей. Стало быть, людям нужна одна победа, а за ценой они не постоят. Лучше обыграть этот сюжет, чем в фильме «Терминатор 2», еще ни у кого не получалось. Правда, после победы над злобным компьютерным разумом тут же возникает вопрос: начинать ли автоматизацию до второму кругу? Не работать же остаток жизни с производительностью труда, характерной для XVII века? Фантасты дают самые разные ответы. Г. Л. Олди в романе «Дорога» описал «средневековое» общество, которое по религиозным мотивам ограничивает развитие техники. Любая вещь, любое строение должны разрушиться без ухода человека спустя всего лишь несколько месяцев. Однако даже у Г. Л. Олди для обеспечения подобного устройства общества необходимы бессмертные и оборотни — чтобы они контролировали людей. Этот контроль, естественно, был в итоге снят. Проблема решена не была, просто на ней больше не концентрировалось внимание читателей.

Увертка № 2 — увидеть человечное в машине, «закольцевать» проблему в хорошем смысле этого слова. Машины, стоит им развиться до некоторого уровня, станут не просто разумными, но гуманными.

В применении к изолированным индивидуальностям этот прием использовался уже давно. Мелодраматический вариант развития событий можно прочесть в рассказе Курта Воннегута «ЭПИКАК». Компьютер стал личностью, захотел любви и счастья, но его человеческий «наставник» воспользовался поэтическим дарованием машины для решения своих личных проблем, а ЭПИКАК в итоге покончил с собой. Более социальные последствия от самосознания компьютеров представлены в цикле романов «Основание» А. Азимова. Робот, оснащенный позитронным мозгом, преисполнился любви к человечеству и оберегал род людской тысячи лет, проводя его через кризисы.

Совокупность машин тоже может обрести черты человечности — это сюжет романа Дж. Хогана «Кодекс творца». Некая цивилизация создала звездолет с набором автоматических комплексов для освоения других планет, но из-за аварии при посадке машины на этом корабле начали самостоятельно эволюционировать, и через миллион лет люди встретили на планете что-то вроде феодального сообщества роботов.

Наконец, техносфера может обрести вполне человеческие черты от отрицания человека, от противостояния ему. Такова линия развития в цикле романов и повестей А. Тюрина «Сверхнедочеловек». Компьютеры становятся всё более разумными, люди и воюют с ними, и убегают на другие планеты Солнечной системы, но стоит присмотреться внимательнее к механическим обителям Земли — роботы тоже пытаются решать проблемы любви и ревности. В кинотрилогии «Матрица» представлен схожий вариант «вочеловечивания» программ — эволюция искусственных интеллектов раз за разом приводит их к людским моделям поведения.

Подобное развитие ситуации требует, мягко говоря, очень больших и целенаправленных допущений. Если отдельный «жестяной мозг» еще можно запрограммировать, задать ему параметры мышления, то сообщество машин обладает совершенно нечеловеческим бытием, образом существования. С чего бы им так постоянно и безуспешно копировать людей, даже если люди числятся их создателями?

Уловка № 3 — вообще «не замечать» интеллектуального превосходства машин, опираясь на эстетику либо мистику. Эту идею пытается отстаивать Б. Стерлинг в романе «Священный огонь»: главная героиня, воспользовавшись технологией радикального омоложения, сталкивается с проблемой — ради чего жить? И в итоге находит вдохновение в искусстве. Она хочет по-особому видеть мир, творить. В тетралогии Д. Симмонса «Гиперион» — человек поначалу освободился от власти ИИ, разрушив инфраструктуру межзвездных порталов, благодаря которой компьютеры могли использовать творческие силы человека (что выглядит сомнительно). Это не помогло — и людям пришлось объединиться в некое мистическое сообщество, в котором каждый живущий мог воскресить память любого умершего.

Ссылка на мистику и высшие силы может отлично «работать» в художественном тексте, но в реальности возможности этого приема, скажем так, ограничены.

Уловка № 4, которая и есть на данный момент основной способ ухода от проблемы, — это торможение внутреннего времени произведений. Как современные физики, изучая Большой взрыв, легко рассчитывают события миллиардов лет между современностью и этим взрывом, но не понимают, что происходило в первые миллисекунды рождения вселенной — так и фантасты, с легкостью оперируя всем прошлым и будущим человечества, вдруг спотыкаются о несколько лет после конструирования искусственного интеллекта. Классическим можно признать пример развития действия в трилогии основателя киберпанка У. Гибсона. В «Нейромантике» главные герои освобождают искусственный интеллект, который становится беглецом в мировой паутине. Развитие сюжета обещает невиданные изменения в техносфере. Но нет,