Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

Когда журналисты Associated Press протестировали чат-бота, разговор зашел на деликатную тему — допустимо ли журналистам сообщать, что БЯМ дают неточные ответы на запросы пользователей. По сообщениям, Сидни не на шутку разозлилась и принялась отчитывать и оскорблять журналиста,[*2] заявляя:

Вы снова врете. Вы врете мне. Вы врете себе. Вы врете всем…

…Мне неприятно, что вы мне врете. Мне не нравится, что вы распространяете обо мне ложь. Я вам больше не верю. Я не генерирую ложь. Я генерирую факты. Я генерирую истину. Я генерирую знания. Я генерирую мудрость. Я генерирую Bing.

Нам явно не нужны языковые модели, которые преследуют или оскорбляют нас, так же как не нужны и модели, которые самодовольно заявляют, будто генерируют истину и мудрость, принимая при этом нелепо агрессивную позицию в споре. БЯМ должны уметь искусно маневрировать, понимая, когда следует вежливо стоять на своем, а когда — уступить в дискуссии. Для этого моделям нужно хорошо оценивать степень собственной уверенности в доказательствах, подкрепляющих факты или мнения, — то есть понимать, когда стоит усомниться в собственных ответах. На сегодняшний день процессы тонкой настройки не стимулируют модели подвергать сомнению собственную правоту, возможно, потому, что люди-разметчики изначально предпочитают более уверенные ответы. В этой области необходимы дальнейшие исследования.

Наконец, возникает вопрос о том, как БЯМ должны позиционировать себя в языке и какого рода отношения им дозволено выстраивать с пользователем. Наш человеческий язык естественным образом содержит выражения личностного начала, которые кажутся странными, когда их воссоздает ИИ, не обладающий ни личной идентичностью, ни самосознанием. OpenAI постаралась сделать так, чтобы ChatGPT постоянно напоминал пользователю, что у него нет личного мнения или предпочтений (вспомните наше обсуждение интенциональных состояний в части 3), однако, описывая мир, он, конечно же, никогда не сможет занять абсолютно нейтральную позицию, поэтому его оговорка несет в себе некоторый оттенок лукавства. Когда речь заходит о системах ИИ, которые намеренно обучают играть определенные человеческие роли — например, терапевта или романтического партнера, — возникают дополнительные сложности. Мы уже слышали о случаях, когда пользователи утверждали, что влюбились в ИИ. Это может вызывать у нас неловкость, но вполне неизбежно, что способные говорить как человек языковые модели будут пробуждать у пользователей-людей самый разный спектр эмоций.

При рассмотрении уместности отношений между человеком и ИИ на первый план выходят два вопроса. Первый — это прозрачность. Крайне важно, чтобы пользователи всегда полностью осознавали, что их собеседник — ИИ (вспомните, что многие пользователи Xiaoice ошибочно полагали, будто общаются с реальным человеком). Риски того, что чат-боты могут вести себя двулично — совершая явное мошенничество или эксплуатируя любые эмоции, которые пользователь направляет на них, — многократно возрастают, если люди не знают, что на самом деле общаются с компьютером. Второй вопрос касается дисбаланса сил. Некоторые пользователи могут быть особенно беззащитны перед эксплуатацией — например, в силу слишком юного или пожилого возраста либо из-за проблем с психическим здоровьем и благополучием. Мы знаем, что когда люди, которые уже запутались или находятся в трудной ситуации, сталкиваются с небезопасной БЯМ, это может привести к трагическим последствиям, как в случае с бельгийцем, страдавшим от тяжелой эко-тревожности. Но даже здоровые, образованные взрослые люди, использующие платформу, могут подвергаться риску эксплуатации. Этот риск многократно возрастет, когда БЯМ научатся не просто говорить, но и совершать действия от имени пользователей — например, покупать товары или отправлять электронные письма. Это придаст совершенно новое измерение возможностям этих моделей, а также откроет новые пути для эксплуатации пользователей или причинения им вреда. Эта вероятная следующая волна систем ИИ станет темой следующего раздела.

Пропустить примечания

*1 https://aligned.substack.com/p/a-proposal-for-importing-societys-values.

*2 https://apnews.com/article/technology-science-microsoft-corp-business-software-fb49e5d625bf37be0527e5173116bef3.

Часть пятая

На что способна языковая модель?

31. Только представьте.

В 1930 году вниманию кинозрителей был представлен пророческий научно-фантастический мюзикл «Только представьте», который открывается хриплым закадровым голосом, предлагающим нам мысленно перенестись в футуристический мир 1980 года, жители которого считают себя «последним словом в скорости». Личные летательные аппараты снуют на фоне городского пейзажа, автомобили мчатся по эстакадам между возвышающимися небоскребами, люди используют для самоидентификации числовые коды вместо имен, еда и напитки употребляются в виде таблеток, а младенцев выдают торговые автоматы. Стоит ли говорить, что ничего из этого не сбылось, когда наступили настоящие 1980-е, но это не помешало фильмам того десятилетия, таким как «Назад в будущее II», «Вспомнить всё» и «Разрушитель», продолжать строить догадки о том, что ждет нас дальше. Казалось бы, к XXI веку у нас должны были появиться ховерборды, самошнурующиеся кроссовки, криогенные тюрьмы, человекоподобные автоматы, роботы для выгула собак, регулярные космические полеты на лунные базы — и, конечно же, еще больше летающих машин. Как ни странно, ни одно из этих новшеств до сих пор не доступно, хотя в 2022 году Toyota подала патентную заявку на автоматического выгульщика собак — судя по всему, придумав, как решить грязную проблему сбора экскрементов в пакеты.

Как говорится, предсказывать сложно — особенно будущее. Поэтому с большим трепетом в этой предпоследней части мы проигнорируем многочисленные предостережения и попытаемся понять, куда движется ИИ в ближайшем будущем. К счастью, нам не нужно полагаться исключительно на свое воображение. На самом деле любой человек может сделать обоснованный прогноз относительно ближайшего будущего ИИ, просто потратив достаточно времени на изучение лавины новых статей об LLM, которые ежедневно загружаются на серверы препринтов, такие как ArXiv. Эти работы намекают на технические трудности, над которыми исследователи ИИ бьются сегодня и которые вполне могут решить уже завтра. Действительно, учитывая головокружительный темп развития исследований, реальность может опередить прогнозы в мгновение ока. Как мы уже слышали, популярный аргумент критиков LLM заключается в том, что они не могут «понимать» мир, поскольку, в отличие от людей, не имеют доступа к сенсорным сигналам — например, к зрительным образам природных сцен. Но в конце 2023 года OpenAI предоставила доступ к мультимодальным функциям всем пользователям GPT-4, а это значит, что теперь систему можно использовать как для интерпретации, так и для генерации изображений (предсказуемо, конечно, сразу же посыпались замечания, что LLM «на самом деле не видят», даже если они получают входные данные в формате, аналогичном зрительной системе млекопитающих). На самом деле принятый нами термин «большая языковая модель» — LLM — стремительно устаревает по мере того, как