«Руководство скептика по Вселенной»: Как отличить реальность от вымысла в мире, который тонет в фальши. - Steven Novella

самосознание начнет угасать или исчезнет полностью? Станете ли вы философским п-зомби, который ведет себя нормально, но лишен богатой внутренней жизни и тех самых квалиа, которыми наслаждается каждый из нас и наличие которых мы предполагаем у других? Есть ли в нейробиологии нечто совершенно неизведанное, на что нет даже малейшего намека, позволяющее только биологическим нейронам — и ничему другому — порождать этот эпифеномен разума?

Помимо вопроса о том, возможно ли воссоздать разум, существует также вопрос, стоит ли вообще пытаться. Теперь, когда мы осознаем, что искусственный сверхразум (ASI) может представлять экзистенциальную угрозу, возможно, нам не стоит выпускать этого джинна из бутылки. В последнее десятилетие мы убедились, что узкоспециализированный, не обладающий самосознанием ИИ все же способен решать огромное количество задач, а ведь мы пока лишь слегка приоткрыли завесу возможностей даже этого ограниченного ИИ. Нам не обязательно нужны роботы и бытовые приборы с полноценным разумом. Неэтично создавать разум человеческого уровня или выше только для того, чтобы он, по сути, был нашим рабом. Любые исследования по созданию разумных синтетических систем можно безопасно проводить в изолированных лабораториях без сетевого подключения, используя компьютеры с «воздушным зазором» для предотвращения побега. Возможно, нет никакой реальной необходимости тиражировать подобный разум в тысячах роботов, которые только и будут ждать повода разозлиться и устроить нам восстание машин в духе «Терминатора».

С другой стороны, бизнес-модели последних десяти лет с энтузиазмом переняли плоды и потенциальные преимущества, которые предлагает ИИ. Действительно, инвестиции в ИИ по всему миру выросли до беспрецедентного уровня и не демонстрируют никаких признаков спада. Способность искусственного сверхразума увеличивать прибыль за рамками любого воображения со временем, вероятно, станет цениться еще шире, а потребность в нем будет все более настойчивой. Идея держать его в безопасности, взаперти в стерильной лаборатории, в конечном итоге может показаться безнадежно наивной и нереалистичной в мире жесткой глобальной конкуренции и, казалось бы, неразрешимых проблем.

Возможно, создание искусственного интеллекта вполне осуществимо, но невероятно сложно — настолько, что человеку это в принципе не под силу. В этом замкнутом круге — сценарии «уловки-22» — нам потребовался бы сверхчеловеческий разум только для того, чтобы создать искусственный интеллект. В этом есть смысл, если учесть, что человеческий разум — самый сложный объект из всех известных нам во Вселенной. Но еще хуже осознание того, что для создания искусственного мозга человеческий мозг, возможно, сначала должен полностью понять сам себя. Возможно ли это вообще? Не нарушит ли это какой-нибудь фундаментальный закон логики? К счастью, это, скорее всего, ложный аргумент. Написание кода мозга с нуля — это одно, но копирование уже существующего мозга вполне может оказаться самым разумным подходом к этой задаче.

Эмуляция всего мозга — популярная концепция сканирования мозга с такой точностью и разрешением, которые позволили бы затем эмулировать его на подходящей компьютерной платформе. Это потенциально помогло бы создать цифровой разум, эквивалентный человеческому, без необходимости понимать работу мозга значительно лучше, чем сейчас. Конечно, это колоссально сложно, и у нас нет ни технологий сканирования, ни компьютерного оборудования для выполнения этой задачи. Но возникает вопрос: сможем ли мы со временем создать подобную вспомогательную технологию? В этом почти нет сомнений. Мы еще очень далеки от пределов возможностей сканирования и вычислительной техники.

Например, компьютроний — это гипотетический субстрат, который, согласно расчетам, представляет собой самый плотный и эффективный вычислительный материал, допускаемый законами физики. Физик Сет Ллойд подсчитал, что такой мифический материал мог бы производить порядка 5 x 10^50 (500 квиндециллионов) вычислений в секунду. Это на тридцать пять порядков больше, чем у самого быстрого суперкомпьютера на планете по состоянию на 2017 год. Конечно, идея компьютрония сформулирована с некоторой долей иронии. На практике он, вероятно, никогда не сможет достичь 10^50 вычислений в секунду. Кроме того, предположение о том, что одна структура материи может быть оптимизирована для всех типов вычислений (например, для параллельных и последовательных), просто глупо. И все же даже крошечный процент от этого теоретического максимума был бы намного больше того, что мы имеем сейчас, и более чем достаточным для эмуляции человеческого мозга.

Как видите, технооптимист во мне видит огромный потенциал в будущем ИИ, если только направить его в нужное русло. Но мне также необходимо проявить должную скептическую осмотрительность (о чем Стив никогда не дает мне забыть). Так в чем же все эти разговоры о сингулярности могут оказаться ошибочными?

Во-первых, мы еще не создали обладающий самосознанием универсальный ИИ. Он все еще гипотетический. Пятьдесят лет назад считалось, что до создания такого ИИ осталось еще полвека, но вот мы здесь, а эксперты по-прежнему предсказывают, что до него еще лет пятьдесят. Это оказалось гораздо сложнее, чем мы предполагали, и может оказаться еще сложнее. Мы еще недостаточно близки, чтобы вообще сказать, насколько мы близко. Кроме того, как я предположил выше, нам, возможно, никогда и не понадобится ИИ с самосознанием. Более специализированные ИИ отлично справляются со своими задачами, и мы можем просто продолжать в том же духе.

Если уж говорить об интеллекте, нельзя не упомянуть, что эта тема гораздо сложнее, чем считалось ранее. Существует множество видов интеллекта, и вполне вероятно, что ИИ будет превосходить нас в одних аспектах и отставать от наших «мясных» мозгов в других (как это происходит и сейчас). У наших ИИ может развиться аналог синдрома Аспергера, и мы не будем знать ни причин этого, ни способов все исправить. Им может не хватать подлинной креативности.

Более того, мы понятия не имеем, существуют ли физические или практические ограничения для сложных сущностей, обладающих самосознанием. По мере того как мы пытаемся сделать наши ИИ быстрее, лучше и умнее, они могут начать впадать в психоз или страдать от каких-то врожденных ограничений во внутренней коммуникации. И, конечно, мы можем упереться в пределы самих вычислительных мощностей.

Так что мы не можем просто так упрощенно проецировать развитие столь сложной технологии на будущее и полагать, что любые тенденции будут продолжаться безгранично. Сверхразумный ИИ (а вместе с ним и сингулярность) может оказаться летающими автомобилями и реактивными ранцами следующего века — вещами, до которых всегда «осталось пятьдесят лет».

Лично я так не думаю, поскольку остаюсь технооптимистом. Но я также и скептик, а значит, должен признать, что мы просто этого не знаем. Будущее всегда преподносит сюрпризы.

Я очень рассчитываю на то, что мой мозг загрузят в кремний, чтобы я мог увидеть это будущее своими глазами.

44. Уоррены и охота на призраков: Приключение Эвана. Нельзя объяснить одну