Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу - Нума Дхамани

Обвинения в политической предвзятости преследуют чат-боты ведущих технологических компаний, из-за чего независимые разработчики создают политических чат-ботов и призывают к нейтралитету.

Галлюцинации появляются, когда модель создает предположения о знании, в котором она не уверена из-за ограниченной или противоречивой информации.

Существует целый ряд различных стратегий, используемых для борьбы с галлюцинациями, включая предоставление информации о степени уверенности модели в ответе, а также поиск информации из внешних источников.

Из-за галлюцинаций и других ограничений LLM не готовы заменить профессионалов во многих областях, а неосторожное их использование может привести к серьезным последствиям, особенно в финансовом, медицинском и юридическом секторах.

Ответственное внедрение LLM включает в себя мониторинг на предмет неправильного использования и информирование конечных пользователей об ограничениях моделей.

6

Повышаем производительность: ИИ как помощник

Темы этой главы

• Использование LLM в профессиональных и личных целях

• Надлежащее и ненадлежащее использование инструментов ИИ в образовании

• Методы выявления контента, сгенерированного машиной

• Общий экономический эффект от применения инструментов генеративного ИИ

Каждый человек хоть однажды переживал так называемое в позитивной психологии состояние потока, когда вы глубоко погружены в работу и даже теряете счет времени из-за сильной концентрации. Скорее всего, вы также переживали моменты нарушения этого потока, когда вас что-то отвлекало, например необходимость что-то найти или заняться посторонними вещами. Подобная фрустрация была главным мотиватором для генерального директора GitHub Нэта Фридмана, когда он объявил о выпуске помощника по программированию Copilot. Фридман написал: «Он поможет вам быстро находить альтернативные способы решения проблемы, писать тесты, изучать новые API без утомительного поиска ответа в интернете»1. Важнейшим преимуществом была интеграция с редактором кода VSCode от Microsoft: Copilot мог напрямую подключаться к текущим рабочим процессам программиста.

В программировании и других областях люди используют большие языковые модели и другие разновидности генеративного искусственного интеллекта как средство для ускорения работы, которую они уже выполняют, например для разработки учебного расписания или плана работ. В этой главе мы изучим, как LLM сейчас используются в личных, профессиональных и образовательных целях. Мы также рассмотрим возможные изменения, которые эта технология вызовет в образовании и экономике в целом.

6.1. Как используют LLM люди разных профессий

В предыдущей главе мы обсудили примеры ненадлежащего использования чат-бота в таких строго регулируемых областях, как медицина, финансы и юриспруденция. В этом разделе мы сосредоточимся на полезном использовании чат-ботов как в упомянутых, так и других профессиональных сферах. Общее мнение таково, что большие языковые модели внесут революционные изменения, но каковы будут последствия этого, пока не ясно. Уже сейчас использование LLM в этих профессиональных областях вызывает экзистенциальные вопросы. Что значит быть врачом? Что значит быть юристом? Принято считать, что работа наполняет нас ощущением цели в жизни, поэтому чат-боты могут вызвать кризис профессиональной идентичности, взяв на себя часть наших задач. С другой стороны, хотя услуги в таких отраслях, как медицина, юриспруденция и финансы, чрезвычайно важны в современном обществе, эти услуги не всегда доступны людям, которые в них нуждаются. Хотя LLM не заменят опытных специалистов, работающих в этих областях, они могут помочь справиться с нагрузкой.

6.1.1. LLM помогают врачам разобраться с бумажной волокитой

Сегодня поставщики первичных медицинских услуг часто тратят больше времени на выполнение задач, не связанных с непосредственным общением с пациентами. Доктор Джеймс Барнетт, клинический адъюнкт-профессор медицинского колледжа Университета Иллинойса в Пеории, писал об «изнурительном бремени административной работы», возложенном на практикующих врачей, и привел слова своего коллеги-врача:

«Предоставление качественной медицинской помощи и забота о пациентах – вот от чего я получаю удовольствие на своей работе… Но из-за перегруженности административными задачами мне приходится обходиться минимально необходимой дозой заботы, сочувствия и понимания для моих пациентов. От этого страдает моя удовлетворенность работой».

В такую административную нагрузку входят ответы на электронные письма и звонки, ведение историй и графиков болезней, а также взаимодействие со страховыми компаниями по заявлениям или обращениям. В одном исследовании было показано, что работа, не связанная с приемом пациентов, занимает около 60 % времени поставщиков первичных медицинских услуг; в другом исследовании был сделан вывод, что на самом деле эта работа занимает не менее двух третей времени2. С учетом такого положения дел в Соединенных Штатах и многих других странах не удивительно, что первые пользователи стали рассматривать LLM как возможное решение этой проблемы.

Ревматолог из Далласа доктор Ричард Стерн попросил GPT‐4 написать письмо с обращением к страховщику, который отказал в покрытии расходов на применение препарата анакинра по показаниям, для которых тот не был официально одобрен, для пациента с трудноизлечимым хроническим воспалительным заболеванием. Стерн отправил письмо, созданное LLM, страховщику, который позже удовлетворил запрос, сократив расходы пациента на 1500 долларов в месяц. Стерн рассказал New York Times, что GPT‐4 значительно повысил продуктивность его работы с пациентами и теперь он использует эту модель в своей работе для составления электронных писем с ответами на общие вопросы пациентов, а также для заполнения документов. Врачи начали использовать большие языковые модели не только для выполнения административной работы. Доктор Майкл Пигоне, заведующий терапевтическим отделением медицинской школы Делла при Техасском университете в Остине, попросил свою команду разработать сценарий, который врачи могут использовать для бесед со страдающими от расстройств, связанных с употреблением алкоголя[76], пациентами, которые «не реагировали на поведенческую психотерапию» и продолжали слишком много пить. «Неделю спустя никто ничего не сделал», – сказал Пигоне. Однако, когда он обратился к ChatGPT, тот сразу же подготовил полезный сценарий, который затронул все основные темы обсуждения. Когда бота попросили переписать сценарий для пациентов со скудными медицинскими знаниями, он подготовил более доступную версию, которая начиналась словами:

«Если вы считаете, что вы пьете слишком много алкоголя, вы не одиноки. Многие люди сталкиваются с этой проблемой, но есть методы, которые могут помочь вам чувствовать себя лучше и вести более счастливую и здоровую жизнь»3.

Когда LLM используются для написания текстов, в которых информация для пациента излагается в более сочувственной манере, это вызывает больше вопросов, чем, например, обобщение истории болезни пациента, поскольку здесь затрагивается межличностное взаимодействие. В этой же статье New York Times несколько медицинских работников выражают недовольство идеей того, что работающие врачи делегируют эмпатию большим языковым моделям, а другие беспокоятся, что можно перепутать кажущуюся заботу ChatGPT о пациенте с хорошими медицинскими советами. Особенно поразительный случай произошел с доктором, который попросил ChatGPT написать, как ему лучше утешить