Верхум - Георгий Леонардович Васильев

Польза ИИ для человека очевидна. Искусственный интеллект усиливает способность человека находить, понимать и перерабатывать мемы, помогая ему интереснее жить и больше зарабатывать. А о пользе ИИ для верхума я уже говорил. Искусственный интеллект работает как бустер, добавляющий скорости и мощи мышлению верхума. От этого верхум получает как прямую выгоду, так и внушительные конкурентные преимущества по сравнению с верхумами, которые отстали в применении ИИ. Это осознают и крупные корпорации, и государства, и маркетплейсы, и банки, и социальные сети, и другие большие верхумы. Вот почему они вкладывают огромные ресурсы в развитие искусственного интеллекта. И наступление ИИ уже не остановить.

Каждый раз, когда в социуме распространяется новая информационная технология, она меняет его культурный уклад и придаёт импульс развитию верхума. Верхум не раз умнел благодаря новым информационным технологиям, таким как письменность, книгопечатание, почта, телеграф, радио, телевидение, интернет, мобильная связь. Теперь верхум приготовился набраться ума от внедрения искусственного интеллекта. Казалось бы, ничего необычного – просто очередной этап умственного развития. Однако искусственный интеллект – это особая информационная технология.

До сих пор новые информационные технологии лишь помогали человеку и верхуму воспринимать, производить и распространять мемы. А технология под названием “искусственный интеллект” умеет воспринимать, производить и распространять мемы самостоятельно. То есть искусственный интеллект – не просто помощник человека и верхума вроде печатного станка или мобильного телефона. Это новый актор, подобный человеку и верхуму[436]. Вернее, это новый тип акторов, каждый из которых умеет что-то своё: рекомендовать товары покупателям, играть в шахматы, распознавать лица, поддерживать беседу или наводить дроны на цель.

Разумеется, появление акторов нового типа изменит соотношение сил, особенно когда искусственный интеллект ещё поумнеет. До настоящего времени развитие системы “верхум – человек” можно было более-менее точно спрогнозировать. Не всё то, что придумывал верхум, шло на пользу человеку. Но в первом приближении соблюдался принцип: чем умнее верхум, тем больше возможностей у человека. Вторжение в эту двойную систему искусственного интеллекта сильно усложняет прогноз их взаимоотношений.

Это мне напоминает известную в физике “задачу трёх тел”[437]. Все мы проходили в школе законы, открытые Ньютоном, включая закон всемирного тяготения. На их основе нетрудно составить формулу, описывающую движение двух небесных тел, например Земли и Луны. Но если в эту систему добавить Солнце, то формулу движения всех трёх тел составить уже не удастся. Движение небесных тел в тройных системах, как правило, становится хаотическим. Мы не замечаем этой хаотичности в обыденной жизни только потому, что Солнце в 300 тысяч раз массивнее Земли и в 30 миллионов раз массивнее Луны. Если бы разница в массах этих трёх тел не была такой большой, то без серьёзного компьютерного моделирования вы бы не смогли предсказать, в какой точке неба окажется Луна через несколько дней.

Добавление в систему “верхум – человек” третьего актора делает её развитие намного более хаотическим. Я вовсе не имею в виду, что с приходом искусственного интеллекта наступит всеобщая неразбериха и все друг друга поубивают. Слово “хаотический” я употребляю не в бытовом смысле, а как научный термин[438]. Оно намекает на то, что нас ждёт период нестабильности, в течение которого развитие отношений между верхумом, человеком и искусственным интеллектом может пойти по кардинально различным сценариям[439].

Пока мы избегаем большого хаоса и слишком радикальных сценариев, потому что интеллект Верхума несоизмеримо мощнее интеллекта отдельного человека, а человек всё ещё во многом умнее, чем искусственный интеллект. Я бы сказал, они соотносятся сейчас примерно как массы Солнца, Земли и Луны. Поэтому третьему актору – искусственному интеллекту – пока не удаётся внести в систему заметные возмущения. Но искусственный интеллект быстро умнеет. И в течение ближайших ста лет любой сценарий развития, даже самый невероятный, может стать реальностью.

Представьте такой сценарий. Искусственный интеллект умнеет настолько, что может заместить профессионалов, работающих с информацией, – бухгалтеров, логистов, кадровиков, юристов, врачей. Потом при поддержке роботов и компьютеризированных машин ИИ начинает лучше, чем люди, справляться с работой водителей, курьеров, фермеров, заводских и строительных рабочих. Потом, развив свои творческие способности, добирается до архитекторов, писателей, композиторов, режиссёров, художников. Верхум постепенно перестаёт нуждаться в людях. Вместо них он практически везде использует ИИ-акторов. Люди теряют возможность самореализоваться в профессии. Их умственные способности за ненадобностью деградируют.

Вот другой сценарий, который может сбыться на уровне страны. Группа людей, используя как средство террора самонаводящиеся дроны и другое автономное оружие на базе ИИ, устанавливает диктатуру и подчиняет верхум государства своим узкокорыстным интересам. Затем этот верхум применяет искусственный интеллект для тотальной слежки и борьбы с любым инакомыслием.

Аналогичный сценарий возможен и в демократическом варианте. Только искусственный интеллект служит корыстной группе людей не для террора, а для пропаганды и дезинформации. Массово генерируемые тексты, дипфейки, боты и другие ИИ-технологии используются для захвата власти, а затем – для удержания в покорности всех граждан. В этом варианте искусственный интеллект тоже превращается в своего рода оружие, с помощью которого небольшая группа людей контролирует верхум государства, а через него – большинство жителей страны.

А как вам такой сценарий? К глобальному Верхуму подключается всё больше и больше различных ИИ-акторов. Они собирают и перерабатывают информацию, творят и делятся друг с другом своими мемами. Благодаря этому Верхум быстро умнеет. Соответственно, умнеют ИИ-акторы. То есть запускается процесс коэволюции Верхума и искусственного интеллекта. Постепенно мемы усложняются и перестают быть понятны людям. А многие мемы вообще проходят мимо людей. Совершаются новые научные открытия, появляются новые технологии, но они остаются за пределами человеческого разумения. Верхум обеспечивает стремительный прогресс. Например, он может с помощью ИИ-акторов освоить другие планеты, непригодные для жизни человека. Люди пользуются плодами этого прогресса и живут на Земле вполне счастливой жизнью, но сам прогресс происходит без их участия.

Если этот сценарий кажется вам приемлемым, то вот более страшный. Одна из версий искусственного интеллекта оказывается настолько умной и агрессивной, что находит способ подчинить себе глобальный Верхум, а с ним и всех людей на Земле. Иными словами, реализуется сценарий в духе голливудской антиутопии: искусственный интеллект вырывается из-под контроля и порабощает человечество.

Любой из подобных сценариев теоретически возможен. Но любого из них можно избежать на практике. А последний из описанных сценариев вообще представляется мне крайне маловероятным. Дело в том, что искусственный интеллект – это такая же абстракция, как и человек вообще. Реальных людей миллиарды, и все они разные. Реальных ИИ-акторов тоже будет огромное множество. И все они будут разными, потому что их создают разные верхумы для разных нужд