Искусственный интеллект в здравоохранении - Коллектив авторов

частной жизни пациентов. Он утверждал, что Google может легко повторно идентифицировать пациентов, объединив записи с другими доступными наборами данных, такими как данные геолокации из Google Maps. Более того, Динерштейн утверждал, что университет не получил явного согласия от каждого пациента поделиться своими медицинскими записями с Google, несмотря на коммерческую заинтересованность технологического гиганта в этих данных. Окружной судья отклонил иск Динерштейна в сентябре 2020 г. по причине неспособности истца продемонстрировать ущерб, который возник из-за партнерства. Этот случай иллюстрирует возможность возникновения судебных исков, связанных с обменом данными, и подчеркивает отсутствие надлежащей защиты конфиденциальности медицинских данных.

Крайне актуальным аспектом при использовании ИИ является соблюдение базовых этических принципов (справедливость, уважение к личности, непричинение вреда и др.). Права человека и этические принципы тесно взаимосвязаны. Права обеспечены юридической базой, которой должны руководствоваться правительства, юридические и физические лица. Однако существование системы прав человека не устраняет необходимости постоянного обсуждения этических аспектов внедрения ИИ. Этически приемлемое решение формируется в результате рассмотрения всего спектра существующих этических соображений, создания процесса принятия решений, который заинтересованные стороны будут считать справедливым.

Например, технологии ИИ в настоящее время активно применяются в геронтологии: для имитации и замены мониторинга человеком состояния и поведения пожилых людей путем сбора данных о показателях здоровья и измерения с помощью датчиков, размещенных в помещениях, различных видов деятельности, а также для обнаружения необычных движений и действий, которые могут сигнализировать о снижении когнитивных или физических способностей пациента. Такой непрерывный сбор данных расширил возможности прогностического анализа прогрессирования заболевания и рисков для здоровья пожилых людей; персонализации управления уходом и предотвращения рисков для здоровья с помощью поведенческого анализа. С помощью систем ИИ такие проблемы пожилых людей, как падения или внезапные чрезвычайные ситуации, могут быть спрогнозированы и предотвращены с помощью алгоритмов, основанных на непрерывном сборе данных о лицах, подверженных риску получения травм или других событий, связанных со здоровьем. Однако внедрение технологий ИИ не должно приводить к усугублению эйджизма, явления, обозначающего негативные стереотипы, согласно которым пожилые люди отличаются старческим слабоумием, жесткими установками, психологической и социальной зависимостью, только потребляют ресурсы, ничего не давая взамен. Подкрепление стереотипов, предрассудков или дискриминации при внедрении технологий ИИ может подорвать, например, качество медицинского обслуживания пожилых людей, снизить взаимодействие между поколениями или ограничить полезное использование технологий ИИ для пожилых людей из-за предвзятых, часто ошибочных предположений о том, как они хотят жить или взаимодействовать с технологиями в своей повседневной жизни.

Проблема эйджизма в контексте внедрения систем ИИ также актуальна при формировании набора данных для обучения алгоритмов ИИ, когда зачастую данные о пожилых исключаются, формируя «меньшинство» для фактически наиболее многочисленной группы пользующихся услугами здравоохранения. Включение недостаточного объема данных по этой группе пациентов может быть отчасти связано с недостаточным признанием того, что пожилые люди существенно отличаются друг от друга, поскольку дальнейшая жизнь стереотипно рассматривается как «однородный жизненный этап». Это приводит к неотражению разнообразных навыков и интересов пожилых людей в настройках технологий ИИ.

ВОЗ предложен ряд мер по обеспечению решения проблемы эйджизма при применении ИИ в здравоохранении [Ageism in artificial intelligence for health: WHO policy brief, 2022]:

1. Все программисты и дизайнеры систем ИИ, независимо от возраста, должны быть обучены распознаванию и предотвращению эйджизма при решении поставленных задач. Возможно включение лиц пожилого возраста в проектные группы.

2. Поскольку данные имеют решающее значение как для обучения, так и для проверки технологий ИИ, команды специалистов по обработке данных, ответственные за их отбор, проверку и применение, также должны быть инклюзивными и хорошо сбалансированными. Целесообразно включение пожилых людей в такие команды и обучение специалистов по обработке данных по распознаванию и преодолению форм эйджизма.

3. Разработчики должны обеспечить системы ИИ точными, полными и разнообразными данными, в том числе в зависимости от возраста. Если определенная группа, например лица пожилого возраста, не представлена в достаточной мере в наборе данных, может быть проведена дополнительная оценка необходимого количества, чтобы гарантировать, что технология ИИ обеспечивает такое же качество результатов для этой группы населения, как и для более широко представленных групп.

4. Даже если технологии ИИ для здравоохранения будут надлежащим образом разработаны для пожилых людей, их использование может быть ограничено из-за отсутствия соответствующей цифровой инфраструктуры. Отсутствие цифровой инфраструктуры также может способствовать преобладающему убеждению эйджистов в том, что пожилые люди не используют цифровые технологии и поэтому не нуждаются в учете. Разработчики и регулирующие органы должны обеспечить условия, при которых пожилые люди понимали бы, как технологии ИИ могут повлиять на их жизнь.

5. Когда технологии ИИ используются при осуществлении мониторинга за состоянием пациентов, пожилые люди должны быть проинформированы о том, что конкретно контролируется и с какой целью, кто будет использовать эту информацию, а также каковы возможные последствия для их повседневной жизни. Поставщикам медицинских услуг и лицам, осуществляющим уход, возможно, придется овладеть новыми компетенциями в использовании технологий на основе ИИ в своей повседневной практике, которые должны будут развиваться по мере ускорения внедрения ИИ. Непрерывное образование должно быть доступным и включать обучение использованию технологий ИИ, преодолению этических проблем, а также пониманию и определению того, как технологии могут распространять предвзятость.

6. Технологии ИИ должны рассматриваться как средство содействия принятию решений человеком. Пожилым людям необходимо иметь возможность выбирать и давать согласие на использование конкретных технологий, на то, как они должны использоваться (в дополнение или вместо ухода и лечения, предоставляемых медицинскими работниками и лицами, осуществляющими уход), а также отзывать свое согласие.

7. Должны быть созданы механизмы для обеспечения возможности правительствам, международным агентствам, неправительственным организациям, частному сектору и государственно-частным партнерствам работать с пожилыми людьми, предотвращать или выявлять эйджизм и обеспечивать надлежащие процедуры для борьбы с эйджизмом и его последствиями. Пожилых людей важно вовлекать в работу этических комитетов, регулирующих органов и других межправительственных или общественных организаций. Нормативное регулирование на национальном уровне должно предусматривать прозрачность отдельных аспектов технологий ИИ при соблюдении прав собственности, чтобы улучшить надзор и гарантировать безопасность и эффективность для пожилых людей, медицинских работников. Аспекты могут включать исходный код, ввод данных и аналитический подход технологии ИИ.

8. В такой быстро развивающейся области, как использование ИИ в здравоохранении, существует много нерешенных технических и организационных вопросов о том, как наилучшим образом использовать ИИ, в том числе исключая эйджизм. Эти проблемы необходимо решить до широкого внедрения каждой конкретной технологии. Поскольку технологии ИИ все чаще используются пожилыми людьми и для пожилых людей, потребуются исследования, чтобы определить, как эйджизм влияет на разработку и использование ИИ, а также на определение мер, которые с наибольшей вероятностью смягчат или предотвратят возрастную предвзятость.

9. Необходимо закрепить этические