Революция разума: на подступах к Сингулярности. Как технологии изменят общество и сознание - Рэймонд Курцвейл

объемов сажи, вызвав глобальное похолодание и голод. Учитывая неизбежный коллапс служб здравоохранения, все это значительно увеличит число жертв. В будущем ядерный арсенал может быть пополнен за счет «грязных» бомб, содержащих кобальт-60 или другие опасные элементы, заражение которыми будет иметь чудовищные последствия для затронутых территорий. В 2008 году Андерс Сандберг и Ник Бостром провели опрос среди участников конференции «Риски глобальных катастроф», проходившей в Институте будущего человечества Оксфордского университета. В среднем эксперты оценили шансы, что к 2100 году в ядерных конфликтах погибнет по крайней мере миллион человек, в 30 %, миллиард человек – в 10 %, а вероятность гибели всей нашей цивилизации в результате применения ядерного оружия составила по данным опроса один процент7.

По состоянию на 2023 год пять государств обладают так называемой «ядерной триадой», состоящей из межконтинентальных баллистических ракет, авиабомб и баллистических ракет подводного базирования. Это США с 5244 боеголовками, Россия с 5889, Китай с 410, Пакистан с 170 и Индия с 1648. Еще три страны располагают более скромными средствами для нанесения ядерного удара: Франция с 290 боеголовками, Великобритания с 225 и Северная Корея с примерно 30. Израиль официально не подтвердил наличия у него ядерного оружия, но, по-видимому, обладает всеми компонентами триады и 90 боеголовками.

Мировое сообщество заключило ряд международных договоров9 об ограничении стратегических ядерных вооружений, благодаря чему количество стоящих на дежурстве боеголовок в мире сократилось с максимума в 64 449 штук в 1986 году до менее чем 950010. Кроме того, были прекращены наземные испытания11, а космос объявлен безъядерной зоной12. Однако даже такого небольшого количества активных боеголовок все равно достаточно для уничтожения нашей цивилизации13. Даже при том что риск начала ядерной войны в каждом отдельном году невелик, им ни в коем случае нельзя пренебрегать на отрезке в несколько десятилетий или целого века. До тех пор пока ядерное оружие стоит на боевом дежурстве, его применение в какой-либо точке мира – по приказу правительства, по инициативе террористов или мятежных военных или же просто по стечению обстоятельств – остается лишь вопросом времени.

Наиболее известной стратегией снижения риска ядерной войны, которая использовалась как Соединенными Штатами, так и Советским Союзом на протяжении большей части холодной войны, является гарантированное взаимное уничтожение (mutually assured destruction – MAD)[4]14. В ее основе лежит угроза немедленного и мощного ответного удара всеми имеющимися ядерными средствами в случае применения ядерного оружия противоборствующей стороной. Такой подход основывается на теории игр. Если каждая из сторон понимает, что попытка нанести даже один ядерный удар неминуемо приведет к ее уничтожению ответным огнем, никто не осмелится первым начать агрессию. Для обеспечения ядерного паритета необходимо, чтобы каждая из сторон обладала возможностью быстрой доставки ядерных ракет к цели в обход защитных систем противника15. Если у страны появятся средства обороны от входящего ядерного удара, принцип взаимного сдерживания перестанет работать. Хотя некоторые ученые считают, что начало конфликта, так или иначе, было бы самоубийственным решением для атакующей стороны из-за его глобальных последствий, что нашло отражение в термине «гарантированное самоуничтожение» (self-assured destruction – SAD)[5]16.

Отчасти из опасения нарушить хрупкое равновесие мировые державы не слишком активно разрабатывали системы противоракетной обороны. В результате к 2023 году ни у одной из стран нет надежного средства защиты от массированного удара. Однако в последнее время появились новые носители ядерного оружия, что может дестабилизировать ситуацию. Россия разрабатывает подводные дроны, способные нести на борту ядерное оружие, а также крылатые ракеты с ядерной силовой установкой. Эти ракеты могут долго кружить над территорией противника и поражать цели, используя неожиданные траектории подлета17. Кроме того, Россия, Китай и США работают над созданием гиперзвуковых ракет, способных совершать маневры уклонения на пути к цели18. Поскольку все эти системы являются абсолютно новыми, существует дополнительный риск, что противоборствующие стороны неверно оценят их военный потенциал и предпримут неадекватные действия.

Даже в условиях ядерного паритета остается вероятность наступления катастрофических последствий из-за ошибок или недопонимания19. Мы настолько привыкли к такому положению дел, что даже не считаем нужным обсуждать эту тему.

При всем при этом у нас есть повод с оптимизмом смотреть в будущее в плане ядерной угрозы. Силы ядерного сдерживания оберегают нас от конфликта на протяжении 70 лет, а ядерные арсеналы понемногу сокращаются. Хотя есть серьезные опасения по поводу терроризма или возможности применения «грязной» бомбы, достижения в области ИИ обещают помочь с обнаружением и устранением этих угроз20. Хотя ИИ не способен полностью избавить нас от риска ядерной войны, продвинутые системы анализа и управления могут существенно снизить вероятность того, что неисправность какого-либо датчика повлечет за собой применение самого смертоносного оружия, доступного человеку21.

Биотехнологии

Теперь в нашем распоряжении появилась еще одна технология, неверное применение которой несет угрозу всему человечеству. Не секрет, что в природе существует множество патогенов, вызывающих у нас различные заболевания. Однако, так или иначе, большинство людей успешно справляются с ними. С другой стороны, есть и более редкие инфекции, которые хотя и смертельно опасны, не распространяются так быстро. Опустошительные эпидемии, как во время вспышек чумы, случаются тогда, когда одна и та же болезнь отличается и высокой заразностью, и высокой смертностью. Черная смерть погубила треть населения Европы22 и сократила численность жителей мира с 450 миллионов человек до 350 миллионов к концу XIV века23. Иммунная система некоторых людей лучше противостояла недугу, отчасти благодаря особенностям ДНК. Одним из преимуществ полового размножения как раз и является наличие у каждого из нас уникального набора генов24.

Достижения генной инженерии25, в частности технологии редактирования геномов вирусов, открывают перед нами возможность создать – намеренно или случайно – супервирус с высокими показателями летальности и контагиозности. Такая инфекция может даже протекать в скрытой форме и охватить весь мир задолго до того, как люди поймут, что больны. Ни у кого не будет иммунитета к этому вирусу, и результатом окажется пандемия, грозящая опустошить планету26. Пандемия коронавируса 2019–2023 годов дает лишь отдаленное представление о том, катастрофа каких масштабов может нас ожидать.

Именно эта угроза стала причиной проведения Международной конференции по рекомбинантной ДНК в Асиломаре в 1975 году, за 15 лет до старта проекта «Геном человека»27. На ней были приняты положения, направленные на защиту от случайных проблем и преднамеренного злоупотребления технологией. Эти асиломарские принципы с тех пор неоднократно уточнялись и дополнялись, а некоторые из них легли в основу законодательных актов, регулирующих