Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

Когда пытаешься выиграть спор, но не можешь перехитрить оппонента с помощью эмпирических данных, всегда можно апеллировать к высшему авторитету. Когда Галилей предположил, что Земля вращается вокруг Солнца, а не наоборот, католическое духовенство обратилось к Ветхому Завету, чтобы доказать его неправоту. Стихи вроде «Восходит солнце, и заходит солнце, и спешит к месту своему, где оно восходит» (Екклесиаст 1:5), казалось, намекали на то, что Бог твердо стоит на стороне геоцентристов, верящих, будто каждый день движется именно Солнце (а не Земля). Апеллируя к принципу, можно поставить выскочек-теоретиков на место, даже не пытаясь всерьез разобраться с их аргументами.

В спорах XXI века о разуме систем ИИ, когда стало очевидно, что большие языковые модели на самом деле справляются с сочинением стихов и решением головоломок ничуть не хуже людей, сторонники человеческой исключительности прибегли к аргументации «от принципа». Однако они выстроили свою защиту иначе, нежели священнослужители былых времен. К счастью, инквизиция в наши дни не прибегает к пыткам (если не считать публичную травлю в Twitter/X), и вряд ли кого-то посадят под домашний арест за утверждение, что системы ИИ способны мыслить или понимать. Сегодня отстаиваемый принцип носит отнюдь не теологический характер. Напротив, он базируется на своего рода радикальном гуманизме и находит поддержку за счет апелляции к вполне оправданным опасениям — например, стремлению сделать так, чтобы технологии не усугубляли существующее неравенство и не наносили вред исторически маргинализированным группам.

Аргумент, который сейчас набирает популярность, заключается в том, что сама постановка вопроса о том, мыслят ли большие языковые модели подобно людям, вредна, поскольку сравнение человека с машиной унизительно и дегуманизирует нас. Это довольно воинственная позиция. Со времен Просвещения ученые предлагали механические модели разума — например, (ошибочную) идею Декарта о том, что нами движут «животные духи», циркулирующие по крови согласно законам гидравлики. Начиная с двадцатого века доминирующей механистической метафорой мозга стал компьютер — электронное вычислительное устройство, преобразующее входные данные в выходные посредством арифметических операций. Использование этой метафоры не означает, что мозг буквально представляет собой компьютер вроде вашего ноутбука, у которого нет пластичных связей между нейронами и который до сих пор строится по схеме, впервые предложенной Тьюрингом (состоящей из «исполнительного» процессора и жесткого диска для «хранения»). Скорее, это означает, что разум можно рассматривать как вычислительное устройство, переводящее информацию из одного состояния (сенсорные сигналы) в другое (двигательные импульсы). Идея о том, что мы видим, думаем, помним и действуем благодаря тому, что нейроны вычисляют информацию, является фундаментальным допущением в нейробиологии и когнитивных науках — примерно как идея о том, что «вселенная состоит из атомов» в физике или что «человеческое поведение формируется социальными структурами» в социологии.

Тем не менее с появлением больших языковых моделей стали звучать мнения, что нам следует отказаться от метафоры вычисления при описании психических процессов человека, поскольку она дегуманизирует людей, приравнивая их к машинам.[*1] Эта антикомпьютационистская позиция была подхвачена и растиражирована некоторыми ведущими сторонниками человеческой исключительности. В 2022 году ключевой доклад на собрании Общества когнитивных наук — главной конференции в этой области — назывался «Противостояние дегуманизации в эпоху ИИ». Докладчик, видный специалист по компьютерной лингвистике, повторил утверждение о том, что метафора «мозг как компьютер» «наделяет человеческий разум меньшей сложностью, чем тот заслуживает, а компьютер — большей мудростью, чем ему причитается». Опасение состоит в том, что, стирая грань между мышлением человека и ИИ, мы создаем новые предпосылки для восприятия людей как простых автоматов, что открывает дверь различным формам дискриминации и объективации, усугубляя предвзятость и несправедливость. Таким образом, аргумент сводится к тому, что утверждать, будто системы ИИ способны мыслить или понимать как люди (или наоборот), не просто фактически неверно, но и аморально.

Нельзя отрицать, что системы ИИ рискуют усугубить структурное неравенство, пронизывающее наше общество, например путем концентрации богатства и власти в руках узкого круга транснациональных технологических компаний или тиражирования вредных стереотипов и дезинформации. Однако винить в социальной несправедливости метафору вычисления кажется несколько умозрительным. У угнетения и дискриминации много причин, в том числе порожденных глобальной капиталистической системой, поддерживающей разработчиков ИИ. Но утверждать, будто в число главных виновников входят метафоры, которые ученые из элитных университетов используют при написании технических статей о мозге, выглядит довольно странно. Гораздо больше это похоже на то, что в данном случае ссылки на угнетение меньшинств используются для придания морального лоска одной из сторон в интеллектуальной войне за сферы влияния вокруг когнитивного статуса ИИ — и, без сомнения, для того, чтобы совершить выпад против самонадеянности исследователей ИИ, склонных преждевременно восторгаться умственными способностями созданных ими машин. В более широком смысле аргумент о том, что представление о мозге как о компьютере (или наоборот) по самой своей сути дегуманизирует, выглядит весьма нелепо. Это все равно что заявить, будто математическое моделирование полета птиц с помощью аэродинамических уравнений унижает пернатых или что оценка прибыли семейной фирмы с помощью кривой спроса и предложения умаляет ее достоинство. Математические модели — эта «метафора» вычисления — представляют собой лишь способы описания природных процессов, которые обычно более точны, чем слова, и широко используются как в естественных науках, так и, все чаще, в (цифровых) гуманитарных дисциплинах.

На самом деле мозг буквально «похож» на компьютер (и наоборот), потому что компьютер был в общих чертах смоделирован по образцу мозга. Сама конструкция первых универсальных компьютеров в 1940-х годах (включавшая, например, концепции памяти, хранящихся программ и логических блоков) была вдохновлена существовавшими тогда представлениями о том, как работает человеческий мозг. Эта вычислительная метафора прижилась, поскольку доказала свою полезность. Количественные модели в психологии и нейробиологии — важные инструменты для понимания расстройств мозга и разработки эффективных методов лечения, точно так же, как и в других областях биологии. Например, вакцины против SARS-CoV-2 разрабатывались путем создания компьютерных моделей ожидаемого иммунного ответа человека — надо надеяться, без дегуманизации десятков миллионов людей, которые сегодня живы благодаря их выдающейся эффективности.

Сходным образом, любое сложное явление всегда можно тривиализировать, сведя его к элементарным составляющим. Нам могут сказать, что футбол — это всего лишь двадцать два человека, которые гоняют свиную кожу. Биология похожа на коллекционирование марок, только с живыми организмами; математика — это просто мастурбация с числами[*2], а история — просто рассказы о мертвецах. Абстрактный экспрессионизм — всего лишь каракули и брызги на холсте, а музыка — просто организованный шум. Конечно, в каждом из этих утверждений есть доля правды, но все они несправедливо упрощают спорт, научные дисциплины или виды искусства, к которым относятся. Когда речь