Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

видели, как кто-то заполняет эти формы в реальности. Конечно, существуют огромные массивы данных с историей просмотров в браузере, включая подробную информацию о нажатиях клавиш и движениях указателя мыши, но неясно, могут ли (и должны ли) компании использовать их из соображений конфиденциальности.

Еще одна причина, по которой нам, вероятно, придется обучать ИИ-помощников на масштабных человеческих данных, — это безопасность. В современных методах тонкой настройки оценщики-люди оценивают текстовые ответы с точки зрения их релевантности и уместности (если вы попросили перевести с испанского на английский, выполнила ли модель эту задачу?), а также безопасности (не содержат ли они предвзятого, незаконного или нежелательного эротического контента?). Эти оценки используются для улучшения последующих ответов моделей. Точно так же нам потребуются люди для оценки того, насколько успешно была выполнена цифровая задача, запущенная от вашего имени через серию API-запросов. Большинство пользователей вряд ли обрадуются, если при покупке билета на концерт модель решит продать данные их кредитной карты, попытается обмануть провайдера или по пути сделает перерыв на просмотр порнографии. Если мы хотим, чтобы будущие БЯМ совершали разумные действия в цифровом мире, мы не можем полагаться исключительно на их способность рассуждать. Как и в случае с текстовыми ответами, им понадобятся человеческие предохранители — социальная обратная связь, указывающая на допустимые и недопустимые способы поведения. Разумеется, именно так мы, люди, учимся вести себя разумно в реальном мире: родители, учителя и друзья комментируют наши поступки и направляют нас к поведению, соответствующему социальным нормам, и (хочется надеяться) уберегают от нарушения закона.

Примечания

*1 По крайней мере, это справедливо для повреждений более «дорсальной», или верхней, части лобной коры.

*2 Webb et al., 2023.

Часть шестая

Мы все обречены?

39. Схватка на троих.

В начале июля 2023 года на сцену Всемирной конференции по искусственному интеллекту в Шанхае (Китай) поднялся докладчик по имени Рич Саттон.[*1] В своей области Саттон — легенда, что-то среднее между «крестным отцом» ИИ и «верховным чародеем» машинного обучения. Его новаторские работы 1980-х годов заложили основы всей области обучения с подкреплением: именно тогда он открыл ключевые алгоритмы, которые впоследствии позволили системам ИИ достичь сверхчеловеческого уровня в настольных и видеоиграх. Его книга 1998 года «Обучение с подкреплением» — это базовый учебник, обязательный элемент на полках любого специалиста в этой области. Когда он говорит, к его словам прислушиваются исследователи ИИ по всему миру.

Выступление Саттона называлось «Преемственность ИИ», и то, о чем он говорил, слегка не укладывается в голове. Он начинает с проторенной дорожки, ссылаясь на закон Мура, согласно которому вычислительная мощность, приобретаемая за фиксированную сумму, удваивается примерно каждые два года. Это означает, что к 2030 году объем вычислительной мощности, которую можно купить за 1000 долларов, достигнет 1016 операций с плавающей запятой в секунду (FLOPS). Это примерно эквивалентно скорости обработки информации человеческим мозгом — если предположить, что каждый синапс обрабатывает один бит в секунду, — а значит, через несколько лет мы получим дешевые вычисления масштаба человеческого мозга. И дальше этот показатель, без сомнения, продолжит расти стремительными темпами.

Пока что всё не слишком спорно: закон Мура продолжает действовать, и производительность компьютеров растет даже быстрее, чем он предсказывает. Но затем Саттон делает поразительную экстраполяцию: «В восхождении человечества приход ИИ нам на смену неизбежен [...] Это будет следующий великий шаг. Системы ИИ станут нашими преемниками. Во всех отношениях они станут важнее нас, людей».

Далее Саттон утверждает, что нам нечего бояться этого неизбежного технологического превосходства. Это просто эволюция идет своим естественным путем, буднично заменяя нас, людей с нашими ограниченными возможностями, сверхинтеллектуальными машинами. Остаток своего выступления он посвящает доказательству того, что нам следует начать «планирование преемственности» — готовиться к моменту, когда машины возьмут бразды правления в свои руки.

На протяжении всей этой книги мы видели, что ИИ развивается с головокружительной скоростью, вызывая как тревогу, так и восторг. Саттон, очевидно, занимает довольно эксцентричную позицию в этом спектре чувств от страха до восторга, находясь на самом краю его эйфорического крыла. Но он там далеко не одинок. Сегодня легионы людей, работающих в технологической экосистеме, и множество любопытствующих наблюдателей с утопическим складом ума принимают грядущую революцию ИИ с пылом, граничащим с религиозным. Многие теперь верят, что создание сильного ИИ — единственный жизнеспособный путь к более процветающей планете или к спасению всех нас от глобальной катастрофы. Некоторые фантазируют о грядущих сверхинтеллектах, которые вальяжно откинутся на спинку кресла, задумчиво погладят свои электронные подбородки, а затем без особых усилий придумают, как предотвратить изменение климата, установить справедливый мировой порядок и сохранить нас молодыми и полными сил так долго, как мы пожелаем.

В 2022 году это радикальное крыло технооптимизма обрело имя. Те, кто ратует за беспрепятственное шествие ИИ, теперь называют себя «эффективными акселерационистами» — часто используя сокращение e/acc. Ближайшее подобие философии у них описано в манифесте, вышедшем из-под пера анонимных пользователей Twitter/X, которые и запустили это движение, назвав себя «святыми покровителями технооптимизма».[*2] Чтение весьма занимательное. Как и любая хорошая теория заговора, манифест начинается с разоблачения паутины лжи, распространяемой зловещей и могущественной группой — в данном случае теми, кто боится технологий и стремится их регулировать. Технологии, утверждают они, — это «триумф человеческих амбиций и достижений, острие прогресса и реализация нашего потенциала». А ИИ, в частности, преподносится как своего рода панацея:

Мы верим, что искусственный интеллект может спасать жизни — если мы ему позволим. Медицина, наряду со многими другими областями, находится в каменном веке по сравнению с тем, чего мы можем достичь, объединив человеческий и машинный интеллект для поиска новых методов лечения. Существует множество распространенных причин смерти, которые можно устранить с помощью ИИ, — от автомобильных аварий до пандемий и дружественного огня в военное время. Мы считаем, что любое замедление развития ИИ будет стоить жизней. Смерти, которые можно было предотвратить с помощью ИИ, появлению которого помешали, — это форма убийства.

Следующие 5000 слов — это пеан Фридриху Хайеку, интеллектуальному отцу неолиберализма, чья экономическая философия, как известно, подтолкнула Маргарет Тэтчер и Рональда Рейгана к тотальной дерегуляции в 1980-х годах (авторы дерзко подписывают документ именем Хайека, сразу под именем Ницше, любимого философа любого бунтующего школьника). Акселерационисты утверждают, что либертарианство Хайека следует применить к технологиям — и к ИИ в