Искусственный интеллект в здравоохранении - Коллектив авторов

class="p1">Давно признано, что медицинские работники несут особую ответственность за продвижение этих ценностей по отношению к пациентам при понимании центральной роли здоровья в индивидуальном благополучии, зависимости пациентов от медицинских работников при получении информации о диагнозе, прогнозе и относительных достоинствах различных вариантов лечения или профилактики, а также важности свободного и открытого обмена информацией для отношений между поставщиком медицинских услуг и пациентом. Если системы ИИ используются медицинскими работниками для выполнения клинических задач или делегирования клинических задач, программисты, разрабатывающие технологии ИИ, также должны соблюдать эти этические обязательства.

Таким образом, этические принципы важны для всех заинтересованных сторон, которые обращаются за руководством по ответственной разработке, развертыванию и оценке технологий ИИ для здравоохранения, включая врачей, разработчиков систем, администраторов систем здравоохранения, лиц, определяющих политику в органах здравоохранения, а также местные и национальные органы власти. Этические принципы должны быть включены в профессиональные и технологические стандарты ИИ. Инженеры-программисты уже руководствуются такими стандартами, как соответствие назначению, контроль версий. Стандарты необходимы для обеспечения функциональной совместимости и разработки программы, для непрерывного обучения тех, кто разрабатывает и использует такие технологии, для управления. Более того, стандарты оценки и внешнего аудита систем ИИ развиваются в контексте их использования. В медицинских вычислениях существуют стандарты для системной интеграции, электронных медицинских карт, совместимости систем, структур реализации и программирования.

Хотя этические принципы не всегда четко определяют ограничения в использовании технологий, правительства должны запрещать или ограничивать использование ИИ или других технологий, если они нарушают или ставят под угрозу осуществление прав человека, не соответствуют другим принципам или нормам или могут нарушить эти принципы, вводятся в неподготовленном или другом неподходящем контексте. Например, во многих странах отсутствуют законы о защите данных или создана неадекватная нормативно-правовая база, регулирующая внедрение технологий ИИ.

Этически приемлемое решение зависит от рассмотрения всего спектра соответствующих этических соображений, обеспечения учета множества точек зрения в анализе и создания процесса принятия решений, который заинтересованные стороны будут считать справедливым и законным.

Как указывалось, ИИ доказал свою способность служить интересам отдельно взятого пациента и всего общества. Развитые страны, используя данные технологии, могут качественно усовершенствовать оказание медицинской помощи, в то время как развивающиеся страны, страны с ограниченными ресурсами, где доступность медицинских услуг часто нуждается в улучшении, не могут устранить пробелы в плане охвата медико-санитарными услугами. Однако для сохранения и поддержания позитивного влияния новых технологий требуются коллективные усилия. Очевидно, что рядовой медицинский работник не сможет сразу свободно использовать такие технологии, ему требуется постоянное повышение своих цифровых навыков. Государству необходимо приблизиться к такому регулированию, когда новые технологии были бы доступны для медицинского обслуживания всех социальных слоев общества. Пациенты должны быть уверены в том, что забота о них не подчинена коммерческим интересам инновационных гигантов. Как при любом политическом решении, при регулировании социальных прав человека важно рассматривать человека, его жизнь и здоровье в качестве главной ценности и принимать решение исходя из его блага, строго соблюдая этические принципы использования ИИ в медицине.

За последние годы в мире быстро развивается процесс перехода от декларативных заявлений и резолюций к документам в области этики ИИ, имеющим практическую направленность. В 2021 г. группа экспертов ВОЗ, проработав около ста предложений по принципам разработки и использования ИИ, опубликованных за последние 10 лет, определила шесть базовых этических принципов разработки и использования ИИ [Ethics and governance of artificial intelligence for health: WHO guidance, 2021].

Несмотря на то что принципы обозначены как этические, они охватывают целый ряд аспектов, которые могут найти свое отражение в правовом регулировании использования ИИ в здравоохранении:

1. Принцип сохранения автономии человека. С расширением использования ИИ некоторые полномочия человека будут переданы системам ИИ. Принцип автономии требует того, чтобы люди сохраняли контроль за принятием медицинских решений. Контроль со стороны человека может зависеть от рисков, связанных с использованием конкретной системы ИИ, но всегда должен быть значимым. При этом поставщики услуг ИИ должны обладать информацией, необходимой для безопасного и эффективного использования технологий ИИ, предоставить эту информацию в доступном и понятном виде лицам, использующим созданные ими технологии, для принятия обоснованных решений.

Уважение автономии влечет за собой соответствующие обязанности по защите частной жизни и конфиденциальности, а также по получению информированного согласия на использование личных данных. Принцип сохранения автономии человека должен полностью соблюдаться правительствами и технологическими компаниями, программистами, создателями баз данных и др. Технологии ИИ не должны использоваться для экспериментов или манипулирования людьми в системе здравоохранения без информированного на это согласия. На использование алгоритмов машинного обучения в диагностике, прогнозировании и планах лечения необходимо информированное согласие. При этом оказание медицинской услуги не ограничивается, если лицо отказывает в согласии. Ни правительство, ни организации не должны предлагать дополнительные стимулы или поощрения лицам, давшим согласие.

Требования по защите данных являются одним из средств защиты прав личности и налагают обязательства на тех, кто собирает и обрабатывает данные. Такие нормы необходимы для защиты частной жизни и конфиденциальности данных, а также для установления контроля пациентов над своими данными. В широком смысле требования по защите данных также должны облегчать людям доступ к своим собственным данным о здоровье, а также предоставлять возможность перемещать их или делиться по своему усмотрению. Поскольку для машинного обучения требуются огромные объемы данных, требования по их защите приобретают все большее значение.

2. Принцип обеспечения благополучия и безопасности людей и защиты общественных интересов. Системы ИИ не должны причинять физический или психический вред человеку, должны соответствовать нормативным требованиям в отношении безопасности, точности и эффективности.

Инвесторы, разработчики и пользователи систем ИИ несут ответственность за измерение и контроль параметров их качества и безопасности, чтобы гарантировать, что технологии функционирую так, как задумано, не оказывают какое-либо негативное влияние на отдельных пациентов или их группы.

3. Принцип обеспечения прозрачности, объяснимости и понятности. Системы ИИ должны быть доступными для понимания всем участникам их обращения, надзорным органам.

Прозрачность обеспечивается созданием и опубликованием до разработки и развертывания технологии ИИ документации, содержащей достаточную информацию о предположениях и ограничениях технологии, операционных протоколах, методах сбора и обработки данных, их свойствах, разработке алгоритма. Такая информация способствует содержательному общественному обсуждению того, как устроена технология ИИ и как ее следует использовать. Указанные сведения должны публиковаться регулярно и после того, как технология ИИ будет одобрена для использования.

Прозрачность можно повысить за счет программного обеспечения с открытым исходным кодом для базовой разработки технологии ИИ или предоставления общедоступного исходного кода программного обеспечения. Для программного обеспечения с открытым исходным кодом доступны как предложения, так и отзывы, что позволяет понять, как работает система, выявлять потенциальные проблемы, а также расширять и адаптировать программное обеспечение.