«Руководство скептика по Вселенной»: Как отличить реальность от вымысла в мире, который тонет в фальши. - Steven Novella

или ведет себя непредсказуемо. Гравитационная сингулярность — это область с поражающей воображение плотностью, порождающая бесконечные приливные силы. Механическая сингулярность — это механизм, чьи будущие состояния принципиально непредсказуемы. Технологическая сингулярность похожа на них: это радикальный и непредсказуемый сдвиг колоссальных масштабов.

Разные люди описывают технологическую сингулярность с различными нюансами, но многие согласятся с тем, что это гипотетический момент в будущем человечества, когда интеллектуальный взрыв, вызванный искусственным сверхинтеллектом (ASI) или усиленным человеческим разумом, изменит цивилизацию настолько быстро, что любые прогнозы за этим рубежом станут принципиально невозможными.

Один из первых намеков на концепцию подобной сингулярности прозвучал в 1958 году из уст знаменитого математика Джона фон Неймана, слова которого приводит его друг Станислав Улам:

Один из наших разговоров коснулся постоянно ускоряющегося прогресса технологий и изменений в образе жизни человека, что создает впечатление приближения к некоей важнейшей сингулярности в истории человеческого рода, за пределами которой жизнь людей в том виде, в каком мы ее знаем, продолжаться уже не сможет.

Еще одним первопроходцем этой концепции стал И. Дж. Гуд. Этот британский математик и криптолог работал вместе с легендарным пионером компьютерных наук Аланом Тьюрингом. Именно Гуд сформулировал концепцию интеллектуального взрыва в следующей цитате:

Пусть сверхинтеллектуальная машина определяется как машина, способная далеко превзойти любую интеллектуальную деятельность любого, даже самого умного человека. Поскольку конструирование машин относится к этой интеллектуальной деятельности, сверхинтеллектуальная машина могла бы создавать еще более совершенные машины; в этом случае, несомненно, произойдет «интеллектуальный взрыв», и разум человека останется далеко позади. Таким образом, первая сверхинтеллектуальная машина станет последним изобретением, которое когда-либо понадобится сделать человеку, — при условии, что машина окажется достаточно послушной, чтобы подсказать нам, как держать ее под контролем.

Этот исход предопределен ключевым переломным моментом во всем этом сценарии — созданием универсального искусственного интеллекта (AGI). Ему не обязательно быть умнее человека, но находиться примерно на одном с нами уровне, пожалуй, лучше всего. После этого для совершения сверхчеловеческих свершений потребуется лишь ускорить работу вычислительного субстрата. Представьте себе искусственный интеллект (ИИ) человеческого уровня, способный потратить десять лет на одну-единственную задачу. А теперь представьте, что этот десятилетний объем работы можно выполнить за одну рабочую неделю.

А что если бы этой задачей стало совершенствование собственного разума, переписывание или реорганизация самой основы его когнитивных процессов? Очевидно, что такому цифровому разуму будет доступно гораздо больше вариантов, чем человеку с докторской степенью. Мы уже обсуждали «разгон» мозга, но как насчет добавления аналога еще миллионов цифровых нейронов в искусственную префронтальную кору? Как насчет удвоения числа связей в коннектоме — карте, описывающей сто триллионов межнейронных соединений, из которых состоит биологический мозг человека? Любая из этих стратегий — или другие — вполне могла бы породить разум, который окажется умнее, чем в принципе способен быть любой человек. Стоит нам ступить на этот путь, как фитиль интеллектуального взрыва будет зажжен.

Как только это произойдет, процесс рекурсивного самосовершенствования может быстро породить разум вдвое умнее самого умного человека, а затем и в десять раз умнее. По мере того как это будет происходить, рождая неожиданные озарения, а сдвиги парадигм начнут... сдвигаться, «горизонт прогнозирования» нашей культуры начнет сужаться. Сейчас, в 2018 году, мы можем уверенно предсказывать достижения, которые вероятны или возможны в ближайшем будущем, скажем, через пятнадцать-двадцать лет. Картина, конечно, туманная, но я практически уверен, что к тому времени многие автомобили на дорогах станут беспилотными. Однако мы уж точно не будем через двадцать лет садиться в свои машины и мчаться на Луну.

Чем умнее становятся эти постоянно совершенствующиеся ИИ, тем ближе подступает наш горизонт прогнозирования. Вскоре попытки заглянуть в будущее дальше чем на год станут совершенно безнадежными, затем — более чем на полгода, затем, возможно... на считаные часы, и наконец...

Когда мы потеряем всякую надежду предсказать хоть какое-то будущее, наступит технологическая сингулярность.

Мне всегда нравилось, как Рэй Курцвейл описывал сингулярность: «технологические изменения, настолько быстрые и глубокие, что они представляют собой разрыв в самой ткани человеческой истории». В этом, конечно, есть смысл, ведь когда всем начинает заправлять разум, в сотни или тысячи раз превосходящий любого из нас, как простые смертные могут предугадать, что он сделает или что сможет открыть? Чтобы вернуть нашу былую способность к прогнозированию, нужно обладать столь же мощным интеллектом, как и сам этот ИИ.

Вы можете спросить — а что дальше? Разумеется, по определению мы не можем предсказать ответ на этот вопрос, но мы можем перебрать все экстремальные сценарии, которые только способны породить наши скудные мясные мозги. Гипотетически наш искусственный сверхинтеллект мог бы заботиться обо всем живом и уважать его. Он мог бы работать рука об руку с человечеством, чтобы улучшить нашу жизнь бесчисленными способами: исцеляя болезни, значительно увеличивая продолжительность жизни, делая всю Солнечную систему пригодной для обитания или даже возвышая нас самих до уровня сверхинтеллекта, если мы того пожелаем. Именно такой сценарий с дружественным искусственным сверхинтеллектом описан в научно-фантастической вселенной Полиса Нила Эшера. (Кстати, настоятельно рекомендую.)

Другой край спектра... совсем не радует. Сущность, которая в миллион раз умнее нас, может посмотреть на человечество так же, как Ви’Джер посмотрел на капитана Кирка и его команду в «Звездном пути: Фильм»: как на углеродное заражение, которое, если нам повезет, можно проигнорировать, а скорее всего — уничтожить. Перечисление других примеров такого антиутопического сценария с ИИ в массовой культуре превысило бы лимит слов, рекомендованный для этой книги.

Ну и что вы теперь думаете об этой технологической сингулярности? Неужели все это чушь, всего лишь «Вознесение гиков», как ее порой называют? Или же шумиха вокруг этой идеи становится все более оправданной? А может, и сам такой выбор — ложная дихотомия?

Некоторые не согласны с самой предпосылкой о том, что разумное сознание можно создать искусственно, цифровым путем... небиологически. Я называю это «склизким биошовинизмом». Нет никаких причин думать, что биологические структуры или электрохимия — единственная среда, способная поддерживать любой из бесчисленных видов разума, которые потенциально могут существовать. Многие теоретики сознания придерживаются функционалистского подхода, при котором организация и внутреннее взаимодействие мозга важнее самого материального субстрата. Множество различных небиологических сред потенциально могли бы поддерживать то, что мы назвали бы разумом.

Подумайте вот о чем: что, если бы существовал процесс постепенной замены каждого нейрона в вашем мозгу электронным цифровым устройством, которое в точности воспроизводит их входные и выходные сигналы? Через некоторое время ваш мозг стал бы полностью небиологическим. Если предположить, что технология работает именно так, наступит ли в процессе этой трансформации момент, когда