История твоего «Я». Вся правда о deepfake - Андрей Владимирович Курпатов

class="p1">В философии, как известно, есть много отдельных направлений и дисциплин. В частности, «философия сознания», которая занимается тем, что пытается разгадать загадку сознания – что это такое, откуда берётся и насколько можно ему доверять. И в этой философии бытует «мем» – «китайская комната Джона Сёрля».

Представьте себе, что мы с вами заперты в комнате с книгой, в которой содержатся инструкции о том, как нам реагировать на те или иные входные данные. Книга написана на понятном нам языке, а вот входные данные будут поступать на китайском, который мы, по условиям данного мысленного эксперимента, мы не знаем (в моём случае так и есть).

Итак, через специальное окошко, наподобие почтового ящика, в нашу комнату подают карточки с китайскими иероглифами. Мы берём инструкцию, сопоставляем эти иероглифы с другими иероглифами, и отправляем, то, что у нас получилось, обратно.

Поскольку мы не понимаем китайский язык, для нас эти иероглифы – сущая тарабарщина. Мы просто выполняем механическую работу – сопоставление символов по правилам. Однако снаружи комнаты люди, получающие от нас ответы, скорее всего, будут думать, что мы всё понимаем, потому что наши ответы кажутся им вполне осмысленными – спасибо хорошо составленным инструкциям!

Сёрль сравнивает свою «китайскую комнату» с искусственным интеллектом: мол, он именно таков – нам может казаться, что он думает, хотя на самом деле он лишь следует алгоритмам, а суть сообщений ему неясна, у него нет, так скажем, их внутреннего понимания.

Честно говоря, никто не знает, понимает что-то искусственный интеллект или нет, потому что если и «понимает», то точно как-то совсем иначе, нежели мы, а как именно – мы и сами не можем понять. Впрочем, сейчас это и неважно. Важно, что в мысленном эксперименте Джона Сёрля с нашей «китайской комнатой» общается какой-то гипотетический человек, думающий на китайском и понимающий китайский.

Но как мы выяснили в первой главе, правда состоит в том, что и наш «китайский» собеседник сидит в ровно такой же комнате: наше почтовое окошко не ведёт в некий внешний мир, но лишь в другую точно такую же комнату.

Человек в этой комнате тоже получает сообщения на непонятном ему языке, точно так же пользуется инструкцией, чтобы подобрать правильный ответ, и точно так же отправляет его обратно. Но самое важное, что этот человек – это тоже мы.

Да, судите сами: нам приходят какие-то сигналы и извне – от внешнего мира (карточки с иероглифами), и изнутри – от наших биологических настроек (инструкции к этим иероглифам), – одно складывается с другим, и мы производим некое действие.

Ощущаем ли, что действуем осознанно, находясь в своих китайских комнатах? Вполне. Понимаем ли мы на самом деле, что происходит? Нет. Мы даже не броуновское тело, мы движение броуновского тела, находящегося под воздействием внутренних и внешних обстоятельств.

• Внутренние обстоятельства пыльцы или глины Роберта Броуна – её состав, консистенция, масса и т. д.

• Внешние обстоятельства – температура жидкости, в которой оно находится под микроскопом исследователя, то есть активность движения молекул в ней.

• Как результат – итоговый наблюдаемый вектор движения броуновской частицы.

В нашем случае внешние обстоятельства – условия среды, внутренние – наши собственные биологические настройки, а наша жизнь – результирующий вектор. То, как мы объясняем себе свои реакции, – это просто способ поддержать реноме «голого короля», и эта способность появляется у нас не раньше, чем система породит наше «социальное я».

В этой главе мы как раз пытались понять, откуда и как у нас возникло это новое, теперь уже «социальное я».

Как мы выяснили, общий механизм возникновения этой иллюзии ничем не отличается от «физического я» – лишь средой, в которой он реализуется. Если иллюзия «физического я» формируется у нас в физическом мире, то эффект «социального я» – в мире, соответственно, социальном.

Социальный мир – это вовсе не мир других людей, а мир эйдосов, то есть сущностей, которые мы усматриваем, интерпретируя отношения между людьми, которые – сами по себе – являются гипотетическими. Да и сами люди являются для нас не руками и ногами с головой и туловищем, а точно такими же сущностями, которые мы в них усматриваем, а точнее – которые мы в них вносим.

Для облегчения процесса приобщения ребёнка к социальному миру эйдосов человечество пользуется словами – знаками, которые обозначают эти сущности, а точнее предполагают их. Мы обозначаем собственные состояния, ощущения, а они – только эффекты, возникающие в нас самих.

Так что сами по себе все эти сущности – лишь призраки нашего внутреннего галлюциноза, они не существуют в объективной реальности. Это такая кажимость – текучая, неверифицируемая, но почти зримо нами ощущаемая.

Эти призраки обязаны своим появлением тому, что люди ведут себя так, словно бы они реальны. Что-то кажется нам столом только потому, что мы рассматриваем его как «стол». Всё дело в функциях – в том, как мы используем это нечто.

«Столом» для нас может быть и пенёк на лесной опушке, когда мы устраиваем пикник, и пластиковая коробка, когда ребёнок высаживает за ней на «обед» своих кукол, и большой подоконник, который я сейчас использую для работы над этим текстом.

Никаких «столов» самих по себе не существует, но при определённых обстоятельствах – когда мы садимся за стол, пусть даже лишь мысленно, – он становится «столом», он обретает для нас сущность «стола», «стольность».

И так с любой вещью, любым предметом, любой идей, теорией и даже переживанием или социальной ролью – их не существует как таковых, они обитают как призраки в платоновском «занебесье», которого нет и которое мы выводим лишь гипотетически, чтобы хоть как-то со всем этим разобраться.

Таков общий для всех нас мир интеллектуальной функции – МИФ, – который и есть, и которого в тот же самый момент нет, но к которому мы получаем доступ, осваивая язык. В результате, впрочем, этот доступ окажется лишь иллюзией, но благодаря ему мы создадим свой собственный МИФ, который начнём ощущать как подлинный и реальный мир.

Мы заражаем друг друга этими сущностями, формируя общий для нас культурный «социокод». Он очень похож на генетической код; более того, и у генетического кода, и у социокода, казалось бы, есть физические носители – гены и тексты.

Однако думать так было бы ошибкой – тексты не самовоспроизводятся (если не считать таковыми большие лингвистические модели, лежащие в основе искусственного интеллекта). Генетический код производит белки, которые создают что-то фактическое, существующее уже само по себе. Тексты же в лучшем случае влияют на наш индивидуальный МИФ, и всё, что они создают, создаётся в нём же.

Так что