Искусственный интеллект в здравоохранении - Коллектив авторов

class="p1">Необходима возможность аудита технологии ИИ. Тесты и оценки должны быть регулярными, прозрачными и достаточно широкими, чтобы охватывать различия в работе алгоритма в зависимости от расы, этнической принадлежности, пола, возраста и других соответствующих характеристик человека. Прозрачность улучшит качество и безопасность медицинской деятельности.

Технологии ИИ должны быть «объяснимыми», насколько это возможно и в соответствии со способностями тех, кому это объяснение адресовано. Информация адаптируется для различных групп медицинских работников и населения.

Учреждения и органы здравоохранения обязаны регулярно публиковать информацию о том, как были приняты решения о внедрении технологии ИИ, как эта технология будет периодически оцениваться, о ее использовании, известных ограничениях и роли в принятии решений.

Прозрачность и доступность информации способствует повышению качества и безопасности медицинской деятельности в условиях использования ИИ.

4. Принцип обеспечения ответственности и подотчетности.

Ответственность гарантирует, что физические и юридические лица несут ее за любые неблагоприятные последствия своих действий, и необходима для поддержания доверия и защиты прав человека. Однако ряд особенностей технологий ИИ (сложность программного обеспечения, непрозрачность, возможность развития систем ИИ независимо от разработчиков и др.) влияет на определение ответственности (и подотчетности). Это может возложить чрезмерное бремя на жертву вреда или на медицинских работников, медицинские организации, которые используют технологию, но не участвуют в ее разработке или проектировании. Большое количество участников процесса создания и функционирования систем ИИ, участие «машины» в принятии клинических решений могут привести к рассредоточению ответственности. В итоге пациенту не компенсируется причиненный вред, сам вред и его причина не выявляются полностью, вред не устраняется, а доверие общества к таким технологиям может быть снижено, если окажется, что ни один из разработчиков или пользователей не может быть привлечен к ответственности.

Чтобы избежать распыления ответственности, при котором «общая проблема становится ничьей ответственностью», важно сформировать механизмы коллективной ответственности и подотчетности, когда все участники разработки и внедрения технологии ИИ несут свою долю ответственности. В данной модели не учитываются фактические намерения каждого участника или его способность контролировать результат. Такие механизмы могут стимулировать всех участников действовать честно и минимизировать ущерб.

Нужны эффективные механизмы разбора ситуаций причинения вреда жизни и здоровью пациентов и компенсации для лиц, пострадавших от решений, принятых на основе алгоритмов ИИ.

5. Принцип обеспечения инклюзивности и справедливости.

Технологии ИИ должны быть не только доступны в странах с высоким уровнем доходов и для использования в контексте и для удовлетворения потребностей, которые относятся к условиям с высоким уровнем доходов, но и адаптированы к типам устройств, телекоммуникационной инфраструктуре и пропускной способности передачи данных в странах с низким и средним доходом. Необходимо стремиться к тому, чтобы «цифровой разрыв» внутри стран и между ними не увеличивался, обеспечивать равный доступ всех к новым технологиям ИИ.

Важно, чтобы применяемые в здравоохранении технологии ИИ обеспечивали как можно более широкое, оптимальное и справедливое их использование и доступ к ним, независимо от возраста, пола, гендерной принадлежности, уровня дохода, расовой или этнической принадлежности, сексуальной ориентации, способностей или других характеристик.

Предвзятость представляет собой угрозу инклюзивности и справедливости, поскольку предполагает отклонение, часто произвольное, от равного обращения. Например, система, предназначенная для диагностики раковых поражений кожи и обученная на данных пациентов одного цвета кожи, может не давать точных результатов для пациентов с другим цветом кожи, что увеличивает риск для их здоровья.

Разработчикам и поставщикам ИИ следует учитывать разнообразие языков, возможностей и форм общения по всему миру, чтобы избежать барьеров в использовании.

Необходимо стремиться к минимизации неизбежного неравенства возможностей между поставщиками медицинских услуг и пациентами, разработчиками систем ИИ и теми, кто использует системы или полагается на них. Внедрение технологий ИИ должно сопровождаться предоставлением пациентам знаний и навыков для лучшего понимания своего здоровья и эффективного пользования услугами системы здравоохранения. Повышение грамотности в вопросах здоровья включает знания в области информационных технологий.

6. Продвижение гибкого ИИ, способствующего устойчивому развитию систем здравоохранения. Технологии ИИ следует внедрять только в том случае, если они могут быть полностью интегрированы в систему здравоохранения. Часто, особенно в системах здравоохранения с недостаточными ресурсами, новые технологии не используются и не обновляются, что приводит к нерациональному использованию больших денежных средств, которые можно было бы вложить в проверенные вмешательства.

Разработчики и пользователи постоянно, систематически и прозрачно должны проверять функционирующую технологию ИИ, чтобы определить, действует ли алгоритм в соответствии с заявленными параметрами и требованиями в контексте, в котором используется.

Когда технология ИИ неэффективна или вызывает неудовлетворенность, обязанность медицинских организаций и органов управления здравоохранения – проанализировать проблему и принять необходимые решения, в том числе о прекращении использования технологии.

Кроме того, системы ИИ должны быть спроектированы таким образом, чтобы свести к минимуму их воздействие на окружающую среду (один сеанс глубокого обучения может создать углеродный след, аналогичный результату проезда на автомобиле на расстояние 700 тыс. км), повысить энергоэффективность.

Устойчивое развитие также требует того, чтобы правительства и компании принимали необходимые меры с учетом ожидаемого воздействия новых технологий на занятость, в том числе организуя переподготовку и повышение квалификации медицинских работников.

Важно отметить, что, помимо универсальных общемировых подходов, имеют место прецеденты рассмотрения этических проблем ИИ в здравоохранении на национальном уровне. Например, в Австралии в 2019 г. приняты девять этических принципов ИИ в медицине, что подчеркивает актуальность рассматриваемых вопросов [Ethical Principles for AI in Medicine, 2019].

Широкое внедрение ИИ в сферу здравоохранения потребует укрепления доверия медицинских работников, пациентов, населения в целом. Взаимодействие, диалог с общественностью – это средства обеспечения того, чтобы использование ИИ в медицинских целях соответствовало общественным ожиданиям и обеспечивало доверие и признание. Развитие ИИ предполагает передачу компаниям-разработчикам огромного количества данных о пациентах, при этом указанный факт не связан напрямую с оказанием медицинской помощи. Следует повышать осведомленность населения, развеивать опасения, разъяснять необходимость использования данных и управления ими для общественного блага.

Врачам и медицинским сестрам потребуется определенный уровень цифровой грамотности, который нужно будет поддерживать в меняющихся условиях. Систематическое и качественное обучение медицинских работников поможет избежать многих ошибок.

Участники системы здравоохранения несут ответственность за создание и функционирование прозрачной системы управления как новыми, так и уже накопленными медицинскими учреждениями данными, являющимися ценным информационным, незаменимым ресурсом, что может привести к их несправедливому с точки зрения благоприобретения использованию.

Компании, которые разрабатывают и внедряют технологии ИИ, несут ответственность за соблюдение прав человека. Оценка компаниями воздействия внедрения ИИ на права человека позволит выявить, понять, оценить и смягчить неблагоприятное воздействие бизнес-проектов, скорректировать несовершенные алгоритмы ИИ, приводящие к предвзятым, дискриминационным, несправедливым решениям. Необходимость проведения компаниями оценки своей деятельности регуляторам стоит определить как обязательную. Целесообразно, чтобы такие оценки были проверены независимой стороной до и после внедрения технологии