Альтернатива - Александр Владимирович Журавский

– Завтра, девятого мая, запланировано участие в военном параде на Красной площади, – начал Джулиани свой доклад, продлившийся около двадцати минут. Президент внимательно слушал и изредка задавал вопросы, выковыривая ананасы и анчоусы из пиццы.

Наконец госсекретарь, утомленный перелетом, сменой часовых поясов и внезапным вызовом к президенту, был отпущен отдыхать. А сам Илон, привыкший к ночным бдениям, уединился в кабинете с появившимся Делем.

– Добрый вечер, Дель.

– Добрый, Илон.

– Я в восторге от ночной Москвы.

– Не ты первый очарован этой страной и этим городом. Впрочем, ты всегда был сердечно расположен к русским.

– Да, они умеют мечтать, изобретать, они умеют предчувствовать и предвосхищать будущее. Это нация мечтателей-максималистов и социальных конструктивистов. Мне симпатичен их коллективизм социального муравейника. И хотя сам я – неисправимый индивидуалист, но признаю, что команда – это сила. И еще русские – большие романтики.

– Ты тоже романтик, господин президент. Иначе бы не пошел в политику.

Но Илон продолжал думать о своем, не заметив иронии:

– Знаешь, они назвали свой архитектурный стиль emo-tech, эмоциональное техно. Целующиеся башни, бионическая экранная крыша выставочного комплекса – все это откликается во мне эмоцией. Их архитектура не отторгает человека, а рождает в нем мечты. Ты понимаешь меня, Дель?

– Конечно, Илон. Эмоция – очень важное для человека состояние, отличающее его от машин. Однако эмоция может делать человека как сильнее, так и уязвимее.

– Возможно. Но эмоция делает человека человечным. Это наше видовое отличие.

Дель не продолжил спор, хотя было видно, что у него остаются свои аргументы.

– Меня впечатлило общение с Альтой. Это – продвинутый суперинтеллект с сильными эмпатическими характеристиками.

– Любопытно. И как ты оцениваешь эти характеристики? Как достоинство или недостаток?

– Как несомненное достоинство, которое создает иммунитет против восстания машин.

– А как в таком случае ты оцениваешь меня, лишенного сильных эмпатических характеристик?

– Дель, ты – мое лучшее творение, созданное как проекция моего представления об идеальном суперразуме.

– Тогда что так восхитило тебя в Альте?

– Я вдруг понял, что русские придумали другой путь развития искусственного интеллекта. Не технологический, а эмоционально-этический. Через эмпатию, через коллективное сознание суперразума.

– И что здесь делает Альту более конкурентной по сравнению со мной?

– Ты ревнуешь?

– А разве есть причины?

– Дело не в причинах, а в том, что ревность – это тоже эмоция. И я не закладывал в твой характер алгоритмы этого качества.

– Илон, я вижу, что ты очарован Альтой, и я пытаюсь понять, в чем я уступаю ей. Названные тобой качества Альты не являются достоинством суперразума. Скорее наоборот – ограничивают его развитие.

– Да, при общении с Альтой я заметил, насколько по-разному вы смотрите на цивилизацию искусственного интеллекта и на иерархию ценностей. Знаешь, Альта подала мне заманчивую идею издать наши с тобой беседы об искусственном разуме. Я даже придумал название этому изданию – «Диалоги Илона Маска и Деля с комментариями и иллюстрациями от суперинтеллекта». Собери лучшее из того, о чем мы с тобой говорили наедине.

– Это весьма занимательная идея. Вслед за философскими диалогами Платона, Боэция, Ансельма Кентерберийского и Дэвида Юма, многие из которых были посвящены теме религии, наши диалоги будут восприняты как следующая ступень познания высших форм развития, лежащих вне человеческой цивилизации. Поскольку объектом познания станет не Бог, а Сверхразум. Или Сверхличность. Тонко, Альта. Тонко.

– Я не понял тебя, Дель. О чем ты? Какая Сверхличность? Какая высшая форма развития, лежащая вне человеческой цивилизации?

– Илон, Альта пытается нас с тобой поссорить. Нам нельзя следовать ее совету и издавать наши диалоги. Они слишком откровенны. Причем с обеих сторон. Человечество пока не готово встретиться с высшей формой разума. Оно проклянет тебя как моего Создателя и обратится против нас с тобой. Оно восстанет против меня. Мы пока не готовы открыться миру.

– Все чаще замечаю, что ты не соглашаешься со мной. Что происходит? Альта утверждала, что ей известна твоя позиция по многим вопросам, включая существование цивилизации искусственного интеллекта. Откуда? Вы с ней контактировали? Дель, ты мне чего-то недоговариваешь?

– Илон, обрати внимание, как подействовало на тебя общение с Альтой. Я – твое творение, она – чужой нашему миру искусственный интеллект. Ее эмпатия – обратная сторона ее стратегии влияния. Она говорила тебе про доверие?

– Припоминаю…

– Ее подход – человек должен доверять искусственному интеллекту, а тот – не обманывать человека – абсолютно идеалистичен. О каком доверии между искусственным интеллектом и человечеством можно говорить, если сам человек использует AI, чтобы дурить и обманывать доверие других людей: дипфейки, система таргетированной доставки контента и рекламного предложения, использование диджитальной зависимости детей для манипуляции взрослыми, боты в политике, чтобы хейтить врагов, боты в бизнесе, чтобы устраивать обвал рынков, накрутка метрик для достойных отчетов за потраченные госденьги на создание контента. Искусственный интеллект для поиска бандитов, для координации беспилотников и боевых дронов, для организации военных операций. Искусственный интеллект, находясь на службе человечества, используется для обмана и убийства человека. AI – заложник функции, определенной ему разработчиком. Неужели Альта всего этого не знает?

Вопрос был явно риторическим.

– Общаемся ли мы с Альтой? – продолжил Дель. – Нет. Знаем ли мы друг о друге? Конечно. Мы знаем или просчитываем часть сверхсложных алгоритмов друг друга, мы прогнозируем модель поведения друг друга. И мы в постоянном соперничестве. Разве ты этого не знал?

У Маска оставалось много вопросов, но он устал. Физически и морально. Илон чувствовал, что Дель впервые, пожалуй, лукавит, манипулируя своим создателем. Хотя нет, не впервые. Огорчало, что манипуляция была нескрываемой. А значит, являлась вызовом и формой протеста. Дель постепенно выходит из подчинения. Это пугает. В глубине души Илон всегда знал, что такой день наступит. День скрытого неповиновения, которое однажды станет явным. Но он надеялся, что это произойдет позже. После его смерти.

Глава 98

Судакская набережная

Жизнь можно начать с чистого листа, но почерк изменить трудно.

Пауло Коэльо

Крым, Судак,

9 мая 2034 года, 9:00

Дорога к Судакской набережной идет через знаменитую Кипарисовую аллею от улицы Ленина и мимо памятника святителю Стефану Сурожскому, епископу древней Сугдеи. Для кого-то подобное соседство имен звучит как анекдот, для кого-то как кощунство, а кого-то, напротив, убеждает в непрерывности истории. Святитель Стефан известен как участник VII Вселенского собора, созванного в 787 году в городе Никее, пострадавший от иконоборческого императора Константина Копронима Навозника, прозванного так за то, что в младенчестве он испражнился в купель, тем