Революция разума: на подступах к Сингулярности. Как технологии изменят общество и сознание - Рэймонд Курцвейл

что не существует прямой связи между субъективным опытом (квалиа) и физическими системами (будь то мозг или компьютер), которые выполняют обработку информации, создающую видимость сознания. В религиях это интерпретируется как наличие души – сверхъестественной сущности, отделенной от тела. Такие рассуждения выходят за рамки научного подхода. Если же физические системы, участвующие в процессах познания, также порождают и сознание (что делает существование зомби невозможным), у науки также нет способа это доказать. Субъективное сознание не поддается описанию с помощью физических законов, и нельзя гарантировать, что определенные методы обработки информации, основанные на этих законах, приведут к возникновению субъективного опыта. Чалмерс назвал это «трудной проблемой сознания». Он считал, что «легкие проблемы», например, что происходит с нашим разумом во время сна, могут быть одними из самых сложных научных задач, но, по крайней мере, они поддаются научному изучению12.

Чтобы разрешить «трудную проблему», Чалмерс обращается к философской концепции, которую он называет «панпротопсихизм»13. Согласно этой идее, сознание можно рассматривать во многом как еще одну фундаментальную силу во Вселенной, то есть такую, которая не может быть сведена к проявлению других физических сил. Можно представить, что существует своего рода всеобщее поле, которое создает потенциал для возникновения сознания. В моей интерпретации этой гипотезы сложность обработки информации в нашем мозгу «пробуждает» это поле, заставляя его генерировать субъективный опыт, который мы переживаем. Независимо от того, создан ли мозг на основе углерода или кремния, алгоритмы, участвующие в обработке информации и позволяющие ему демонстрировать внешние признаки сознания, также вызывают появление субъективного внутреннего мира.

Хотя мы никогда не сможем доказать это с помощью научного метода, с точки зрения этики мы должны действовать так, как если бы эта гипотеза была верна. Иначе говоря, если есть вероятность, что существо, которому мы можем причинить вред, обладает сознанием, то лучше относиться к нему так, как если бы оно действительно было разумным, чем рисковать возможностью причинить боль живому существу. Фактически это будет означать, что мы считаем существование зомби невозможным.

С точки зрения панпротопсихизма тест Тьюринга не просто подтвердит способность компьютера функционировать на уровне человека, но и предоставит убедительные доказательства того, что у машины есть субъективный опыт. Это, в свою очередь, заставит задуматься о моральных аспектах взаимодействия с ИИ. Появление сознательного ИИ будет иметь серьезные последствия для законодательства. Однако я сомневаюсь, что наша политическая система сможет оперативно отреагировать и обеспечить соблюдение соответствующих прав на законодательном уровне к моменту прохождения компьютером теста Тьюринга. Поэтому сначала ответственность за разработку этических стандартов использования ИИ ляжет на плечи его разработчиков.

Помимо этических оснований полагать, что существо, кажущееся сознательным, таковым и является, существуют еще теоретические причины считать панпротопсихизм достоверным объяснением феномена сознания. Эта гипотеза представляет собой золотую середину между дуализмом и физикализмом (материализмом), которые долгое время являлись двумя ведущими философскими парадигмами. Дуализм утверждает, что сознание порождается некоей сущностью, не имеющей ничего общего с обычной «мертвой» материей. Многие дуалисты называют эту сущность «душой». С научной точки зрения проблема этой версии в том, что, даже если мы предположим существование сверхъестественной души, у нас нет никакого способа узнать, как она взаимодействует с материей в наблюдаемом нами мире, например, с нейронами нашего мозга14. Материализм, напротив, предполагает, что сознание возникает исключительно благодаря особой организации материи в нашем мозге. Даже если эта гипотеза исчерпывающе объяснит функциональные аспекты работы сознания (например, опишет, каким образом работает мозг, подобно тому, как в компьютерных науках разбираются системы ИИ), она никак не поможет нам понять субъективный опыт, который в принципе недоступен для научного исследования. Панпротопсихизм может стать компромиссным решением между двумя этими противоположными подходами.

Детерминизм, эмерджентность и проблема свободы воли

С понятием сознания тесно связан вопрос свободы воли15. Если спросить любого человека на улице, как он понимает эту концепцию, в ответе так или иначе прозвучит мысль, что человек способен контролировать свои действия. Как политическая, так и судебная система основываются на том соображении, что у каждого есть свобода воли примерно в таком смысле.

Однако когда философы попытались дать более точное определение свободе воли, оказалось, что прийти к согласию не так-то просто. Многие мыслители убеждены, что свобода воли возможна только в том случае, если будущее не предопределено16. Ведь если нельзя повлиять на то, что произойдет, откуда тогда возьмется хоть сколько-нибудь значимая свобода воли? С другой стороны, если «свобода воли» сводится лишь к случайным процессам, которые происходят на квантовом уровне и приводят к тем или иным вашим действиям, вряд ли это можно назвать настоящей свободой. Как сказал английский философ Саймон Блэкберн, «случайность столь же неумолимо, как и неотвратимость» исключает возможность свободы воли17. Концепция свободы воли, которая бы нас устроила, должна каким-то образом объединить детерминизм и индетерминизм, избегая полной предсказуемости, но не скатываясь в случайность.

Ученый в области физики и компьютерных наук Стивен Вольфрам (род. 1959) предложил интересный способ разрешения этой дилеммы. Его работы оказали большое влияние на мои размышления о взаимосвязи физики и вычислений. В своей книге «Наука нового типа» (A New Kind of Science, 2002) Вольфрам описал феномен, который сочетает в себе черты детерминизма и индетерминизма – математический объект, известный как клеточный автомат 18.

Клеточный автомат – это простая модель, состоящая из ряда ячеек, каждая из которых может находиться в одном из двух состояний, например, быть белой или черной, живой или мертвой. Эти состояния определяются набором правил, который может быть весьма разнообразным. Правила определяют, каким образом каждая ячейка будет меняться в зависимости от состояния своих соседей. Изменения происходят пошагово, а поведение системы в целом может быть невероятно сложным. Одним из самых известных примеров клеточного автомата стала игра для двумерной доски под названием «Жизнь», предложенная Джоном Конвеем 19. Игрокам и математикам удалось отыскать множество интересных начальных распределений, которые порождают структуры, развивающиеся по правилам игры предсказуемым образом. На основе игры «Жизнь» можно даже построить работающий компьютер и написать программу, которая будет запускать копию самой игры!

В своих рассуждениях Вольфрам обращается к простейшему автомату – одномерной группе ячеек. Каждый новый ряд добавляется снизу, а цвет ячеек в этом ряду определяется набором правил и состоянием ячеек в предыдущем поколении.

Проведя тщательный анализ, Вольфрам обнаружил наборы правил, которые не позволяют заранее предсказать результат никакого шага, если не пройдены все предыдущие шаги20. Это означает, нет никакой возможности перескочить к нужной нам итерации.

Самые простые наборы правил Вольфрам отнес к классу 1. Примером может