Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

ИИ, все еще остается маргинальной, однако по этой теме уже начинают высказываться весьма твердые мнения. В 2016 году Комитет по правовым вопросам ЕС предположил, что «наиболее совершенные автономные роботы» могут иметь «статус электронных лиц с особыми правами и обязанностями», и заказал исследование о будущих нормах гражданского права в области робототехники. С тех пор ученые начали задаваться вопросом, нужны ли нам «права для роботов». По крайней мере один видный философ публично выразил опасение, что, создавая мощные системы ИИ, мы устроим «второй взрыв страданий», в результате которого миллионы машин с синтетической феноменологией будут испытывать боль и депрессию — подобно тому, как, к несчастью, страдают многие люди. По мере того как системы ИИ будут становиться всё более правдоподобно похожими на людей, наша склонность приписывать им способность чувствовать будет расти. Вполне возможно, что в ближайшие несколько лет мы станем свидетелями появления групп активистов, борющихся за права систем ИИ из убеждения, что те воспринимают мир точно так же, как люди.[*5]

Пропустить примечания

*1 См. https://cajundiscordian.medium.com/may-be-fired-soon-for-doing-ai-ethics-work-802d8c474e66 и https://cajundiscordian.medium.com/what-is-lamda-and-what-does-it-want-688632134489. LaMDA расшифровывается как «Language Model for Dialogue Applications» (Языковая модель для диалоговых приложений). См. Thoppilan et al., 2022.

*2 Хотя он и является рукоположенным священником, так что в том, что касается приписывания ментальных состояний нечеловеческим существам, ему не привыкать.

*3 Полезную дискуссию на эту тему см. в www.bostonreview.net/articles/could-a-large-language-model-be-conscious/.

*4 https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917.

*5 Об этих трех точках зрения на отношение к системам ИИ см. De Graaf, Hindriks, and Hindriks, 2022, Gunkel, 2018, и Metzinger, 2021.

16. Интенциональная установка.

В 1857 году Ричард Оуэн — анатом, палеонтолог и неисправимый спорщик, наиболее известный тем, что придумал слово «динозавр», — выступил с дерзким заявлением касательно мозга приматов. Это было неспокойное время для биологии. Дарвиновская теория естественного отбора уже была очерчена в виде эссе в 1844 году, а ее полноценная версия, «Происхождение видов», была практически готова к печати. На повестке дня стоял вопрос о том, как связаны человек и животные. Был ли человек создан уникальным? Отличался ли он анатомически и психологически от других видов? Традиция (и, что немаловажно, Библия) утверждала именно это, но эту доктрину пошатнула новая волна идей об эволюции. Оуэн не желал иметь ничего общего с подобными новомодными теориями. Он понял, что его исследование сравнительной анатомии приматов дает важную зацепку. Хотя мозг обезьян и человека был (как он признавал) поразительно похож, существовала одна аномалия: крошечная часть мозга, известная как малый гиппокамп, присутствовала у людей, но отсутствовала у других человекообразных обезьян. В статьях и на дебатах Оуэн использовал эту находку как оружие против новых эволюционных идей. Он утверждал, что люди, по сути, представляют собой обособленный класс — не просто другой отряд приматов, а целый новый подкласс Mammalia, который он окрестил Archencephala. Он обнаружил — как он объявил Лондонскому Линнеевскому обществу — нейроанатомический ключ к тому, как человек «исполняет свое предназначение в качестве верховного владыки этой Земли и всего низшего творения».[*1]

Разумеется, заявление Оуэна было полнейшей бессмыслицей. Малый гиппокамп, известный сегодня как птичья шпора (calcar avis), — это не более чем складка на стенке заднего рога бокового желудочка. Он присутствует в мозге нескольких видов приматов, причем у некоторых (например, у игрунок) он относительно крупнее, чем у людей. И он точно не является ключевым элементом познания, человеческого или какого-либо еще. Тем не менее взгляды Оуэна об уникальности человека нашли поддержку, став прочным бастионом на пути эволюционной революции, за которую яростно боролись такие фигуры, как Томас Гексли (известный как «бульдог Дарвина»). Как выясняется, когда человеческая исключительность объединяется с ортодоксией, получается гремучая смесь. Люди сверхъестественно неохотно расстаются с атрибутами собственной уникальности — будь то наше место в центре Вселенной или на вершине древа жизни — без серьезного боя. Каждому хочется чувствовать себя особенным.

Та же динамика пронизывает дискуссии XXI века о человеческом разуме и разуме ИИ. В то время как наивные заявления Лемойна о наличии личности у машин были повсеместно встречены с недоверием и негодованием, разгорелась куда более спорная культурная битва вокруг того, что происходит «под капотом» в «разуме» искусственного интеллекта. В одном лагере находятся (в основном) специалисты по компьютерным наукам, которые видят в стремительном прогрессе ИИ доказательство того, что мы уже на полпути к созданию человекоподобного интеллекта, и интерпретируют лингвистическое мастерство новых больших языковых моделей (LLM) как свидетельство того, что они уже разделяют ключевые аспекты нашего познания. Противоположные взгляды клеймятся как луддизм (технофобия) или отрицание. Мы назовем эту позицию эквивалентистским аргументом, поскольку она утверждает, что разум человека и ИИ принципиально эквивалентны (или, по крайней мере, могут быть таковыми). В другом лагере находятся (в основном) философы и социологи, для которых применение человеческой ментальной терминологии («знание», «мышление» и «убеждение») к системам ИИ отдает наивным антропоморфизмом. Они утверждают, что восторженные айтишники либо одурачены собственными изобретениями, либо коварно преследуют личные интересы, либо и то и другое сразу. Мы назовем этот подход эксепционалистским аргументом, поскольку она утверждает, что, насколько бы умными ни казались большие языковые модели, в человеческом разуме есть нечто исключительное и принципиально иное. Таким образом, если в середине XIX века величайшие умы своего времени спорили о том, имеют ли люди и животные общее происхождение, то сегодня их потомки схлестнулись в споре о том, обладают ли люди и системы ИИ общими способами познания, мышления и понимания. И так же, как и прежние дебаты о месте человека в эволюции и Солнечной системе, эта стычка между эквивалентистами и эксепционалистами стала не только интеллектуально, но и политически напряженной.

Прежде чем погрузиться в эти дебаты, давайте сначала проясним, что мы подразумеваем под термином «разум». Ученые и инженеры часто избегают разговоров о разуме и о ментальных состояниях в целом. Гораздо безопаснее говорить о «мозге» — успокаивающе осязаемом вычислительном устройстве, работающем на электричестве, подобно электронным часам или карманному калькулятору. Человеческий мозг можно подержать в руках — у взрослого человека он весит около 1,3 килограмма. Но разум гораздо более неуловим. Известный философ сознания Дэниел Деннет (которому приходилось мириться с этим словом в названии своей должности) однажды посетовал: «Для многих говорить о разуме — это примерно как говорить о сексе: немного неловко, несолидно, а то и вовсе предосудительно».[*2]

Когда такие философы, как Деннет, говорят о разуме, они часто имеют в виду субъективное содержание ментальных состояний — например, каково это