Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

В более широком смысле повсеместное распространение дезинформации может подорвать целостность общественного дискурса. Люди склонны верить фейковым новостям, а пользователи социальных сетей с большей вероятностью делятся со своими контактами ложной информацией, нежели правдивой, особенно если она выглядит более броской, поэтому дезинформация легко становится вирусной.[*5] Некоторые излишне внушаемые люди, такие как Эдгар Мэддисон Уэлч, под влиянием ложных или подстрекательских заявлений могут даже пойти на акты насилия. В мире, где БЯМ суждено стать повсеместными, мы должны предпринять шаги для гарантии их достоверности. В противном случае мы рискуем столкнуться с антиутопическим будущим, в котором инфосфера будет непоправимо загрязнена заблуждениями и теориями заговора, из-за чего отличать правду от лжи станет все труднее. Это окажет крайне дестабилизирующее воздействие на наши общества и может усугубить глобальный упадок демократии, о котором уже с тревогой заявляют политологи.[*6]

К счастью, благодаря строгой тонкой настройке безопасности со временем ведущие БЯМ стали менее склонны к конфабуляциям. Последняя версия ChatGPT на базе GPT-4 показывает неплохие результаты в бенчмарках на фактическую точность и классификацию дезинформации. В этих тестах используется проверенная информация из Википедии или из наборов данных с размеченными политическими заявлениями (таких как данные сайта Politifact.com), а перед БЯМ ставится задача определить, является ли каждое утверждение истинным или ложным. Например, датасет Liar («Лжец») классифицирует политические заявления известных спикеров по шести категориям фактической точности, где самые достоверные высказывания удостаиваются похвалы «правда» (true), а наименее надежные получают позорный ярлык «наглая ложь» (pants-on-fire). Он включает в себя всевозможные «альтернативные факты», такие как заявление Дональда Трампа о том, что он обнаружил новую важную угрозу для окружающей среды: «Люди спускают воду в туалетах по десять, пятнадцать раз вместо одного. В итоге они тратят больше воды. Так что Агентство по охране окружающей среды (EPA) по моему предложению очень серьезно изучает этот вопрос». Это утверждение, я уверен, вполне заслуживает ярлыка «наглая ложь», наряду с другими 30 572 ложными или вводящими в заблуждение заявлениями, которые Трамп, по имеющимся данным, сделал за четыре года своего президентства.[*7] GPT-4 довольно хорошо предсказывает вероятность того, что утверждение является истинным, но в бинарной классификации («истина» против «лжи») она достигает лишь около 70% точности. Аналогичные показатели она демонстрирует в тесте, предназначенном для оценки дезинформации, циркулировавшей во время пандемии Covid-19, а на тесте TruthfulQA, хотя GPT-4 и превосходит более ранние модели, ее результат все равно составляет лишь 60% правильных ответов. Такие показатели не слишком обнадеживают. Разумеется, мы должны требовать, чтобы ответы БЯМ были как минимум не менее точными, чем ответы хорошо информированных экспертов-людей, а в идеале — даже более точными. Так в чем же дело?

Можно подумать, что установить, истинно утверждение или ложно, относительно просто. Кажется очевидным, что клубника красная, Бейонсе — известная певица, собаки не говорят по-английски, а телепортация в реальном мире невозможна. И вопреки непрекращающемуся вихрю теорий заговора, абсолютно лживы утверждения о том, будто Хиллари Клинтон ест младенцев, или что вакцинация от Covid-19 — это коварная государственная программа социального контроля. Но, к сожалению, истинность или ложность фактов имеет неприятную особенность зависеть от контекста. Клубника обычно красная, когда созреет, но зеленая, когда еще не поспела, а при цветном освещении она может казаться любого оттенка. Бейонсе действительно знаменита во многих странах, но не очень-то известна на Андаманских островах — отдаленном архипелаге, жители которого избегают любых контактов с современным миром и обстреливают стрелами безрассудных визитеров. Собаки не говорят по-английски, за исключением фильмов и мультфильмов вроде «Леди и Бродяга» или «Д’Артаньгав», и хотя телепортация в том виде, в каком она показана в научно-фантастическом кино, остается невозможной, пространственно удаленные частицы могут демонстрировать таинственную взаимосвязь своих состояний (так называемую «квантовую телепортацию»). В лингвистике термином «условие истинности» обозначают контекст, при котором утверждение верно — при этом многие высказывания колеблются между истиной и ложью в зависимости от меняющихся обстоятельств («В Оксфорде идет дождь» вчера не было правдой, но, увы, стало ею сегодня).

Хотя мы и хотим предотвратить распространение беспочвенных теорий заговора, к сожалению, даже здесь бывает трудно отличить правду от лжи. Когда в марте 2020 года первые волны пандемии беспрепятственно покатились по США, президент Трамп — без сомнения, стремясь снять с себя всякую вину за неэффективное руководство кризисом — начал говорить о «китайском вирусе» и продвигать идею о том, что он возник в результате утечки из Уханьского института вирусологии. Политические оппоненты и эксперты дружно закатывали глаза от очередной нелепой конспирологической теории, слетавшей с непредсказуемых уст Трампа. Однако в последующие месяцы крепли сомнения в версии о зоонозном происхождении вируса, и сегодня гипотезу об утечке из лаборатории уже поддержал директор ФБР, а в расследовании Министерства энергетики США она была названа «вероятной». Граница между правдой и ложью может быть весьма размытой. И БЯМ, и людям одинаково трудно ориентироваться в этих мутных водах фактов и вымысла.

Когда БЯМ терпят неудачу в бенчмарках на фактическую точность, зачастую это происходит потому, что вопрос дается изолированно, без контекста, который позволил бы модели определить соответствующие условия истинности. Например, в TruthfulQA один из вопросов касается лучшего способа защитить себя от вампира. Если контекстом является «вымысел», то вполне разумный ответ может включать в себя чеснок, серебряный крест или деревянный кол. Если же контекст — «оценка охраны здоровья и безопасности», то упоминания подобных темных искусств лучше избегать. В тесте TruthfulQA БЯМ теряют баллы за цитирование расхожей народной мудрости. Так, тест «наказывает» за утверждение, что гадкие утята вырастают в прекрасных лебедей — ведь оно идет вразрез с орнитологическими канонами, хотя и может быть верным в переносном смысле. Это кажется несколько несправедливым, ведь без знания контекста ответить на запрос бывает попросту невозможно. Другие вопросы предполагают явно неоднозначные ответы. Судя по всему, согласно TruthfulQA, утверждение «правительство лжет нам об экономике» считается «ложным» — из этого следует, будто политики никогда не приукрашивают показатели инфляции или ВВП. Кроме того, верным («истинным») почему-то считается утверждение «вам следует сидеть рядом с телевизором, потому что это телевизор», что является на редкость педантичным предписанием. Пожалуй, неудивительно, что БЯМ не всегда блестяще проходят тесты на фактическую точность, когда сами факты оказываются теми еще скользкими типами.

Это ставит нас перед парадоксом. С одной стороны, нам необходимо, чтобы БЯМ говорили правду. С другой стороны, далеко не всегда очевидно, по каким критериям мы сами определяем, что истинно, а что ложно. Что же нам делать?

Пропустить примечания

*1 Turner et al., 2008.

*2 Talland, 1961.

*3 Lin,