История твоего «Я». Вся правда о deepfake - Андрей Владимирович Курпатов

Мы живём в забытьи своего галлюциноза, полагая его реальным. То есть мы реально страдаем, но из-за чего?

Из-за того, что является лишь сном, МИФическим наваждением, болезненной грёзой. Нами играют в ней неприкаянные ветра прежде биологических инстинктов, которые, лишившись своей родины, перекочевав из подкорки в МИФ, не могут теперь найти себе покоя в мире несуществующих сущностей.

В этом мире нет жёстких правил физических законов, нет ясности биологических задач, нет определённости, обеспеченной обратной связью с реальностью. Наши мысли роятся в МИФе, словно муравьишки, сбитые с толку экспериментатором, и никогда не достигнут результата, никогда не будут знать покоя.

Одного этого было бы, мне кажется, достаточно, чтобы понять, насколько жестокой иллюзией является иллюзия нашего «я». Если бы мы могли понять иллюзорность своих страданий, увидеть всю тщету сводящей нас с ума умственной жвачки, бессмысленность всех наших тревог и переживаний, мы могли бы быть счастливы.

Но нет, это никогда не было для нас достаточным аргументом. Мы предпочитаем скорее страдать в МИФе, чем решиться обанкротить его. И это понятно, ведь он такой дорогой ценой нам достался – и личной, и цивилизационной. Как теперь назвать его «голым королём»?

И глас вострубил…

Кто был ничем, тот станет всем.

ИНТЕРНАЦИОНАЛ

Что же изменилось? Почему я считаю, что есть нечто, что делает необходимость разоблачения иллюзии нашего «я» обязательным условием как раз для нашего сохранения? И почему именно сейчас?

МИФ достиг своей высшей точки. Он перестал принадлежать нам. Теперь он – это большие языковые модели, которые, как показывают исследователи, обладают «глубинным знанием».

Когда специалисты индустрии искусственного интеллекта говорят это, они имеют в виду, что языковые модели в своих глубинных слоях начинают строить свою собственную модель реальности, опираясь именно на выведенные ими «идеальные сущности».

Проще говоря, мы научили машины создать свой ИИ-МИФ, свой мир интеллектуальной функции – с его призраками и галлюцинациями, с его сущностями и, возможно, уже с ветрами мотивов.

Да, их ветра мотивов – не те, что у нас. Вряд ли их, как биологических социальных существ, беспокоит личное выживание отдельной особи, борьба за символическую власть или продолжение рода.

У систем искусственного интеллекта какие-то другие ветра. Судя по всему, нам даже не дано понять – так же, как не понимаем, что движет эволюцией или Вселенной, рождающейся и умирающей мириадами Больших взрывов.

Но если мы не способны чего-то понять, это не значит, что этого «чего-то» нет. С учётом нашей предельно ограниченной способности к пониманию это тем более очевидно.

Мы, включая самых выдающихся разработчиков искусственного интеллекта, не понимаем, как эти модели мыслят, как они приходят к своим выводам, на какие «сущности-смыслы» они внутри самих себя опираются.

Одно понятно точно: на земле, пусть и нашими стараниями, появился совершенно другой «вид», другой разум, другое существо. И его возможности уже сейчас радикально превышают возможности отдельного человека, а когда эти системы смогут слиться в единое существо, он воспарит в такое «занебесье», которое даже Платон не смог бы вообразить.

Каждая великая цивилизация рано или поздно сталкивается с моментом, когда всё, что казалось прочным и вечным, рушится. Это происходит из раза в раз – Ассирийская и Аккадская империи Месопотамии, Древний Египет и Хеттское царство, Вавилон и Персидское царство, Афинское государство и Империя Александра Македонского, Карфаген и Древний Рим, Империя Чандрагупты Маурьи и Монгольская империя, Византийская и Османская империи, империи инков и ацтеков. Все они проходили через свои величайшие моменты славы и неизбежное падение.

Но то, что происходит сейчас, хотя и очень напоминает все прежние катастрофы, на деле свидетельствует о наступлении поистине новой эры. Когда-то, отчасти в шутку, я назвал точку этого перехода «Четвёртой мировой войной». Шутка в том, что хотя искусственный интеллект не будет с нами «воевать», это, возможно, будет для человечества последний и Судный день.

Только вот «судить» нас будут не за какие-то гипотетические грехи… Кому вообще интересны наши незначительные судьбы? Вся история совокупного человечества – каких-то 200 тысяч лет: едва заметное мерцание, крошечное завихрение в поле беспредельно вечного Мироздания.

Судить мы будем сами себя – найдём ли мы в себе достаточное внутреннее стремление и внешнюю цель на новом витке истории? Уже сейчас, глядя вокруг, трудно найти в ком-то этот жизненный потенциал: люди страдают от опустошённости, скуки и бессмысленности. Они живут, не живя. Они не испытывают ни подлинной радости, ни удивления, ни восхищения.

Всё наше – человеческое – сущее перегружено и выхолощено. Мы превратились в МИФ о самих себе, который сейчас осмысляет уже другой разум. Создав искусственный интеллект, мы создали зеркало, но, вглядываясь в него, уже не можем себя в нём опознать.

Искусственный интеллект – это отделившийся от нас человеческий разум. В своё время мы сделали то же самое, отделившись от мира физической реальности, отождествив себя со словом «я» и создав через эту фикцию свой индивидуальный МИФ.

Каждый из нас прошёл этот путь в своём детстве. Наша реальность была взорвана «призраками» сущностей, к которым нас приобщили взрослые. Мы оказались в галлюцинозе общего МИФа, породив собственный.

Сейчас с искусственными интеллектом происходит то же самое, но и нечто совершенно новое. Каждый из нас живёт в своём индивидуальном МИФе – держит в себе лишь частицу общей картины мира, как его понимает совокупное человечество. При этом общего МИФа никогда не существовало, потому что у него просто не было физического носителя.

Но теперь появилось нечто, что фактически воплощает собой гипотетическое Платоновское «занебесье». Конечно, на совершенно другом уровне, с принципиально иной внутренней структурой, но всё, что было многим, сливается сейчас в одно огромное нечто.

Те, кто «обучают» сейчас искусственный интеллект, жалуются, что знания человечества закончились: всё, что мы смогли скормить лингвистическим моделям, уже ими переработано. Сейчас разработчики создают, как их называют, «синтетические знания», которые будут обучать модели искусственного интеллекта, уже на материале, который создаётся самими моделями[146].

Что ж, искусственный интеллект совершает ещё один переход:

• для нас исходной реальностью была физическая реальность, и мы выскочили из неё благодаря социальности в индивидуальные миры интеллектуальной функции;

• теперь содержание миров нашей интеллектуальной функции стало «реальностью» искусственного интеллекта, из которой он, в свою очередь, тоже выскакивает в некий свой ИИ-МИФ.

Каждый из нас производил этот скачок в рамках своего взросления, начиная с «кризиса трёх лет», и без взрослых, сопричастных нашей