Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

скопировал созданные людьми материалы из интернета. Судебные баталии об авторских правах на этот контент — и о гигантских доходах от генеративного ИИ — уже начались и, без сомнения, растянутся на долгие годы. Между тем, хотя ходили слухи, будто юристов ИИ может заменить целиком и полностью, и несмотря на то, что GPT-4 блестяще сдал адвокатский экзамен, ни одну из этих сторон в суде пока еще не представляет робот в шерстяном парике.[*1]

Другой важнейший вопрос заключается в том, как ИИ изменит баланс сил в обществе. Во всем мире власть и деньги все больше концентрируются в руках немногих. Богатейший 1% населения владеет половиной мирового богатства, в то время как — невероятно, но факт — на беднейшую половину человечества приходится менее 1%.[*2] Неравенство подпитывает политику обид и недовольства, которой пользуются нелиберальные демагоги, разжигающие рознь между народами, этносами и идентичностями. Это уже спровоцировало заметный рост политических репрессий и вооруженных конфликтов по всему миру, и сейчас, когда я пишу эти строки в 2024 году, геополитический накал, похоже, приближается к точке кипения. Технологическая революция, запущенная ИИ, по всей видимости, только ускорит этот процесс. По мере того как системы ИИ начнут вытеснять человеческий труд, доходы, которые раньше выплачивались работникам, будут перенаправляться в карманы корпоративных акционеров. В первую очередь это касается каждого, кто владеет долей в технологической индустрии, чья стоимость продолжает расти по мере того, как ИИ неуклонно проникает во все сферы нашей жизни.[*3] Без существенных структурных изменений в экономике люди, чьи рабочие места будут автоматизированы, окажутся в зависимости от милости государства. Этим недовольством легко могут воспользоваться популистские партии, выступающие против гражданских прав и стремящиеся подорвать демократию. Антрополог Юваль Ной Харари добавляет, что «ИИ благоприятствует тирании» — новые инструменты автоматического слежения и контроля за населением будут с готовностью взяты на вооружение авторитарными режимами, что укрепит их железную хватку над гражданами и склонит политическую чашу весов не в пользу тех, кто выступает за свободу, равенство и демократию.[*4] Власти Китая уже используют ИИ для отслеживания каждого шага своих граждан и подавления инакомыслия при первых же его проявлениях, а другие режимы наблюдают за этим с интересом. Трудно спорить с тем, что он прав.

На этом пессимистичном фоне все же остается место для надежды. Автоматизируя новые секторы экономики, системы ИИ могут создавать богатство с беспрецедентной скоростью и в невиданных масштабах. Задача правительств (и избирателей) в связи с этим — найти способы равномерного распределения полученных доходов. Есть некоторые основания для сдержанного оптимизма. В ряде исследований уже предпринимаются попытки количественно оценить прирост эффективности (или расширение возможностей), который происходит, когда сотрудникам помогают LLM. В самых разных отраслях вырисовывается четкая картина: помощь ИИ идет на пользу наименее квалифицированным работникам, но приносит минимальную выгоду тем, кто уже является высококлассным специалистом. В одной научной работе оценивалось, насколько успешно специалисты справлялись с написанием пресс-релизов, аналитических отчетов и деликатно сформулированных электронных писем с помощью ChatGPT и без него. Те, кто получил самые низкие оценки за первое задание (выполненное без помощи LLM), почти удвоили свои показатели при совместной работе с ChatGPT, в то время как те, кто показал наилучшие результаты в первом задании, не получили вообще никакого выигрыша.[*5] Таким образом, вскоре ИИ может стать уравнивающим фактором на рынке труда — позволяя тем, у кого меньше всего навыков и опыта, вносить столь же весомый вклад, как и их более успешные коллеги.

На политической арене идет много дискуссий о потенциально разрушительном влиянии ИИ на демократию. Действительно, современные системы ИИ уже использовались для создания дипфейков (например, фальшивых видеороликов, компрометирующих политиков) или роботизированных звонков (например, автоматических телефонных сообщений, отговаривающих граждан голосовать), и они способны многократно ускорить распространение дезинформации в огромных масштабах. Однако реальный дополнительный ущерб от этих возможностей по сравнению с существующим положением дел (когда вредоносные действия совершаются людьми) еще только предстоит оценить количественно. С другой стороны, есть и способы использовать LLM для укрепления наших демократий. Если настроить их на выдачу исключительно обоснованных аргументов и правдивой информации, то это начнет проникать в общественный дискурс, потенциально компенсируя дестабилизирующее влияние дезинформации и полемики, которую политические активисты распространяют через социальные сети и массовую прессу.

Чтобы максимально увеличить шансы на то, что ИИ принесет больше пользы, чем вреда, нам необходимо координировать усилия исследователей, разработчиков и государственных органов, обладающих регулирующими полномочиями. Нам нужно лучше понять вред, возникающий при использовании систем ИИ людьми, и попытаться предвидеть новые риски, которые еще более совершенные системы могут создать в ближайшем будущем. Нам необходимо продолжать разрабатывать методы обучения, которые не позволят системам ИИ генерировать предвзятый, токсичный или незаконный контент, а также гарантировать, что их нельзя будет с легкостью использовать для помощи в создании биологического оружия или взломе Британской библиотеки. Нам нужно создавать скоординированные программы исследований, изучающие, как системы ИИ влияют на людей — на отдельных личностей, которые могут подвергнуться мощному автоматизированному убеждению или искать у LLM советов по личным вопросам и здоровью, особенно если речь идет о наиболее уязвимых пользователях, таких как дети или люди, испытывающие проблемы с психическим здоровьем.

Язык — это наша суперсила, средство, с помощью которого мы создаем знания и делимся ими. На протяжении тысячелетий он служил человеку пропуском к планетарному господству за счет скоординированных коллективных действий. Еще несколько месяцев назад язык принадлежал исключительно людям. Теперь же мы уступили эту способность разуму другого рода — странному новому разуму, который мы не до конца понимаем. LLM на данный момент представляют собой весьма ограниченную форму интеллекта с примитивной памятью, шаткими способностями к планированию и ужасным чувством юмора. Но не стоит недооценивать силу языка. Эпоха, в которую мы только что вступили — когда системы ИИ могут говорить как с нами, так и друг с другом, — это переломный момент, столь же важный для человеческой истории, как изобретение письменности, книгопечатания или интернета. Мы еще не понимаем, что это принесет человечеству, но выяснить это будет захватывающе — и немного пугающе.

Пропустить примечания

*1 Хотя, конечно, более простые системы ИИ используются в различных судебных инстанциях, зачастую лишь усугубляя существующее неравенство.

*2 https://oi-files-d8-prod.s3.eu-west-2.amazonaws.com/s3fs-public/2023-01/Survival%20of%20the%20Richest%20Full%20Report%20-English.pdf.

*3 В том числе долей самого автора, который работал в DeepMind с 2010 по 2023 год.

*4 www.theatlantic.com/magazine/archive/2018/10/yuval-noah-harari-technology-tyranny/568330/.

*5 Ной и Чжан, 2023.

Послесловие.

Я начал писать книгу «Эти странные новые умы» в апреле 2023 года и отложил работу,