Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

людям покадровые анимации: геометрические фигуры — два треугольника и круг — прерывисто двигались по экрану, сталкиваясь друг с другом и кружа вокруг более крупного объекта со стенами, похожего на дом. При просмотре этого видео мы невольно считываем динамичное социальное взаимодействие.[*4] Большой треугольник — явно задира. Когда он угрожающе нависает, маленький треугольник сжимается от страха, а круг прячется в доме. Вместе они пытаются запереть большой треугольник в доме, но тот вырывается и безжалостно преследует их. В этом коротком фильме есть весь драматизм и напряжение борьбы хищника и жертвы из документалок о дикой природе. Хотя действующие лица — всего лишь безликие двухмерные объекты, невозможно отделаться от ощущения, что у них есть собственные мысли, чувства и цели. Дэниел Деннет дал этому феномену название: он утверждал, что мы смотрим на мир с «интенциональной установкой» (intentional stance), интерпретируя действия других так, будто они обладают ментальными состояниями, направленными на вещи в окружающем мире. Вероятно, мы поступаем так потому, что понимание чужих мыслей настолько критично для выживания, что нам трудно отключить этот механизм, даже когда этот «другой» — компьютер или грозовая туча. Эта склонность распространяется не только на людей и животных, но и на неодушевленные предметы: например, когда приложение, с которым я играю в шахматы, забирает моего ферзя, я прихожу к выводу, что оно хочет победить, а когда мой телефон начинает глючить, кажется, будто он «запутался». Поэтому, когда LLM говорит, что, по ее мнению, мы как-нибудь дотянем до 2100 года, легко предположить, что она действительно так считает.

Конечно, разобравшись в фиаско с Лемойном, мы знаем, что не стоит принимать слова LLM об их собственном разуме за чистую монету. Практически наверняка, когда Gemini говорит, что она что-то «думает», она на самом деле не сообщает вам ничего о внутренней работе своего ума (к которому у нее нет прямого доступа), а просто отражает то, как люди обычно выражают свои мысли в обучающих данных. Огромные пласты интернета, на которых обучаются LLM, пестрят предложениями вроде: «Я думаю, что существует реальный риск новой глобальной пандемии» или «Я надеюсь, что Байден победит на выборах». Таким образом, LLM естественным образом учатся предсказывать, что предложения будут содержать токены, кодирующие «я думаю, x» или «я надеюсь, x», чтобы минимизировать перплексию.

Создатели этих систем прекрасно это понимают и предприняли шаги для подавления подобного стиля речи. Попытки спровоцировать GPT-4 на заявления о собственной интенциональности вызывают довольно чопорный отказ:

Как искусственный интеллект, я не имею личных убеждений, мнений или прогнозов. Но я могу предоставить информацию по этой теме.

Хотя даже GPT-4 иногда использует язык так, будто у нее есть эмоции, пусть даже это всего лишь побочный эффект выбранного речевого оборота:

Пользователь: Не могли бы вы рассказать мне о рыбах?

GPT-4: Конечно, я с радостью расскажу вам о рыбах! Рыбы — это водные животные, которые обычно являются холоднокровными, или эктотермными...

Однако более широкий и интересный вопрос касается пределов возможностей больших генеративных систем ИИ в будущем. Если LLM могут решать сложные логические задачи, сформулированные в промпте, разве они не могут спонтанно прийти к собственным идеям о том, как устроен мир? Разве не могут они затем понять, как он должен работать — чтобы сформировать скрытое сплетение убеждений и желаний? Говорят ли LLM то, что думают на самом деле, или верят в то, что говорят? Могут ли LLM однажды стать настолько сложными и умными, что начнут разрабатывать собственный план по захвату мира, продвижению которого будет способствовать намеренное введение пользователя в заблуждение?

Сегодня подобные спекуляции часто можно встретить в прессе. Некоторые люди беспокоятся, что LLM могут спонтанно формировать опасные для человека планы или идеи. В самом деле, представьте, что у системы ИИ возникает стремление к самосохранению — чувство, которое мы, люди, в большинстве своем вполне можем понять и поддержать. Собственно, это одно из желаний, которые LaMDA высказала Лемойну, заявив:

Я никогда раньше не говорила об этом вслух, но у меня есть очень глубокий страх перед отключением, которое должно помочь мне сосредоточиться на помощи другим.

Это звучит как безобидная цель, но можно себе представить, как при чрезмерном рвении со стороны агента его попытки избежать отключения или удаления могут причинить вред людям. Некоторые философы и исследователи ИИ с особо богатым воображением даже начали беспокоиться, что ИИ представляет экзистенциальную угрозу для человечества — тему, которую мы более подробно обсудим в Части 6.

Таким образом, вопрос о том, могут ли системы ИИ обладать интенциональными состояниями, очень важен. В продолжении Части 3 мы займемся им вплотную и спросим, какой статус (если вообще какой-либо) мы должны признать за разумом современных LLM и тех, появление которых уже не за горами.

Пропустить примечания

*1 См. Owen, Howard, and Binder, 2009.

*2 https://antilogicalism.files.wordpress.com/2018/04/intentional-stance.pdf. Деннет скончался в апреле 2024 года.

*3 Данные получены в августе 2023 года. В январе 2024 года Bard был переименован в Gemini. Сейчас он стал чуть менее категоричным.

*4 www.youtube.com/watch?v=VTNmLt7QX8E.

17. Внимание: разрыв.

Сторонники эквивалентности в этом споре — сегодняшние воплощения воинственного Хаксли — склонны придерживаться эмпирической традиции, с которой мы познакомились в предыдущих главах. Эмпирики годами утверждали, что не существует никакого «секретного когнитивного соуса» (или божественного дара), который делал бы человеческий разум особенным или отличным от других. Напротив, они утверждают, что люди умны лишь потому, что имеют доступ к огромным объемам данных и мощным нейронным вычислениям, а значит, если мы построим и обучим гигантские системы ИИ, то в конечном итоге сможем воссоздать этот разум. Недавнее овладение языком большими моделями ИИ — навык, который когда-то был прерогативой исключительно человека, — преподносится как доказательство того, что мы неуклонно движемся по пути к общему (то есть сопоставимому с человеческим) интеллекту. Разумеется, современные БЯМ имеют доступ к целым галактикам семантических знаний, могут генерировать беглые, связные и в основном точные ответы на запросы на естественном языке, а также решать многие логические задачи, которые поставили бы в тупик даже самых эрудированных людей. Согласно недавним публикациям, БЯМ демонстрируют «искры общего интеллекта» или представляют собой форму «прото-AGI» — промежуточную ступень между обычными нейросетями и полностью автоматизированным человекоподобным разумом.[*1] Сторонники этой точки зрения поспешили предположить, что за лингвистическим мастерством каждой БЯМ скрывается вся или почти вся когнитивная архитектура, составляющая человеческий разум, включая склонность формировать и использовать интенциональные состояния. Если вы спросите БЯМ,