Среди призраков. Рассуждение об эпохе метавселенной и генеративного искусственного интеллекта - Эрик Саден

часто информация служит утилитаризму в совершенно разных целях и во всех срезах повседневной жизни. Отличительная черта нашего настоящего в том, что способность тех или иных систем откликаться на наши намерения касается не только повседневной деятельности: теперь они научились запечатлевать различные формы нашей реальности.

То есть происходит – в реальном времени – прямое и вполне очевидное воздействие на ход вещей. К примеру, выбор маршрута по рекомендациям приложения с учетом автомобильной сарабанды на улицах, или заказ еды онлайн на одной из специализированных платформ, снабжающих бесконечные вереницы курьеров на велосипедах и скутерах во всех крупных городах планеты, или свидания, на которых встречаются люди, предварительно оставившие свои пожелания на каком-нибудь сайте знакомств. Эти роботизированные системы активно участвуют и в других процессах нашего бытия, частного или коллективного, – в покупке и продаже ценных бумаг, в приобретении картриджа, который заказывает онлайн сам принтер, или в работе беспилотных автомобилей будущего, передвигающихся благодаря интегрированным датчикам и обработке в реальном времени собранных отовсюду данных. Какой оборот примет наша реальность, все чаще зависит от объема переработанных данных, от алгоритмов, программ, разветвленных систем, наделенных собственными рабочими мощностями, чтобы выполнять бессчетное множество локальных задач.

Между тем широкую практику отправки команд (или инструкций) машинам, работа которых и так поддерживается командами, – что можно назвать «всеохватным инструкционизмом», – ждал столь же хорошо замаскированный, сколь неожиданный поворот. Мы пришли не только к тому, что даем машинам команды или позволяем, чтобы они давали их самим себе, но теперь и от них получаем указания. Рабочий механизм наглядно виден на примере рекомендаций, которыми без конца одаривают нас платформы, предлагающие что-либо сделать – обычно в коммерческих целях. Или в коллективном пространстве, где передвижения людей – с точностью почти до миллиметра – регулируются разными сигналами: в ход идут приемы, применяемые прежде всего в логистических центрах. Что-то не то в нашем нынешнем образе действий, обусловленном не то личной волей, не то всемогущими роботами, не то призраками, которые обращаются к нам и с разными целями направляют наше поведение.

Это свойство получает совсем другой масштаб с появлением искусственного интеллекта, справедливо называемого «генеративным», когда с нашей подачи, на основе простых устных или письменных команд-инструкций, создается нечто совершенно новое – языковыми или изобразительными средствами. В английском это называется prompt – Кембриджский словарь дает такое определение этого слова: «To make someone decide to say or do something» («сделать так, чтобы кто-то решил что-либо сказать или совершить»). Во французском языке оно тоже существует – скажем, в выражении réponse prompte, «быстрый, немедленный отклик», то есть тот, который следует сразу за нашей командой. В общем, мы даем команды системам, чтобы генерировать тексты, голоса, псевдофотографии, и все это – внутри туго сплетенной, если не сказать – спутанной структуры. Люди дают команды машинам – и в то же самое время логика немедленного отклика призвана делать так, чтобы мы думали, будто сами решаем поставить задачу процессорам – что им произнести, какое действие выполнить, хотя в конечном счете их цель все равно одна – влиять на наше поведение.

К таким примерам можно отнести и ChatGPT, и другие похоже разработки, которые не только откликаются на наши запросы, но и, подобно призракам, прямо говорят, как лучше поступить, или посещают наше сознание, чтобы исподтишка, имитируя самую что ни на есть естественную речь, внушить нам совершенно посторонние взгляды, которыми мы должны руководствоваться. Именно здесь метавселенная и искусственный интеллект находят точку пересечения и образуют принципиально новую среду – или стиль жизни, – когда мы надеваем шлем и просим показать нам иллюзорное северное сияние или «провести» по пиксельному Токио, но только при этом нас постоянно будут тащить за руку или скрыто направлять. Кто бы поверил, что ChatGPT или любая аналогичная система задумана, только чтобы выдавать нам тексты – просто так, без всякой задней мысли? Так же устроены Bing и Bard, чат-боты и «поисковики», принадлежащие, соответственно, Microsoft и Google, – они составляют контент по нашим запросам и в то же время, только скрыто, побуждают делать выбор в пользу упоминаемых компаний (которые изрядно раскошеливаются за право фигурировать в генерируемых текстах). Налицо возможность корректировать поведение через автоматический язык, выражающий всевозможные интересы и выступающий носителем квазиистины, – это удивительным образом вторит блестящей мысли Поля Валери, который в 1945 году написал: «Власть – это когда есть все условия, чтобы кто-то один, многие или все действовали по чьему-то слову. Быть у власти – значит говорить как хозяин. И, соответственно, владеть дискурсом, речью, которой будут повиноваться»[101].

Можно смело поспорить, что ближайшее и следующее десятилетие пройдут под знаком промптов или всеобщего «промптимизма». Технико-экономический комплекс снабжает нас все более эффективными системами и готов в конечном счете выполнить чуть ли не все наши задачи – и когнитивные, и креативные. То, что испокон веков требовало обучения, сторонней помощи, физических и умственных усилий, вот-вот окажется бесполезным и морально устаревшим, а мы превратимся в существ, которые только создают промпты. Искусственные пифии, стоит их попросить, день за днем распишут стратегию предприятия, подскажут, кто из сотрудников недостаточно результативен, а в ком отпала необходимость, подготовят за нас сообщения, письма, речи, составят список якобы необходимых покупок, распланируют наши будни, придумают программу пребывания в незнакомом городе и даже примутся сочинять рассказы, мелодии или делать фильмы, какие любой из нас пожелает. Это и есть – на пользу всех и каждого – индустриализация непрерывного «правильного» пути, а заодно – систематическое потакание малейшим нашим капризам. Попробуем представить, как это скажется на индивидуальной и коллективной психике. Мы словно лежим на диване и ждем, что за нас все сделают системы, выступающие в роли дворецких, которые бесконечно нас превосходят. Такая среда атрофирует как наше стремление во внешний мир, так и наши интеллектуальные способности – причем всё до того иезуитски устроено, что можно поверить, будто здесь все в выигрыше. Нынешнюю квантовую фрактальную троицу с недавних пор дополняет фрактальная троица еще одного вида – «промптическая», – отмеченная эксклюзивной печатью утилитаризма.

На первой ступени – технологический режим, который сегодня преобладает и основан прежде всего на командах, прописанных в программах для того, чтобы роботы могли выполнять бесчисленные задачи. На второй – люди, которые этим пользуются и сами формулируют команды, отвечающие их намерениям. Наконец, на третьей ступени общество являет собой картину переизбытка команд, формулируемых людьми или сущностями для активации машин. Таким образом, мы вступаем в эпоху, в которой любое дуновение жизни будет искать одного – достижения в реальном времени определенных намеченных целей.