Искусственный интеллект в здравоохранении - Коллектив авторов

установки при применении систем ИИ для лиц пожилого возраста, особенно в университетах, компаниях, разрабатывающих технологии ИИ. Способы выявления этических проблем, связанных с эйджизмом, поставят эти проблемы на передний план при проектировании и обеспечении качества и эффективности. После создания технологии ИИ следует оценить как благотворное, так и негативное воздействие на пожилых людей. Оценки воздействия могут предоставить техническую информацию о возможных последствиях и рисках, улучшать процесс принятия решений, прозрачность и создавать основу для надлежащего контроля и оценки.

Аналогичные подходы могут применяться и для других групп населения, в отношении которых есть риски предвзятости.

Одной из этических проблем, в том числе касающейся ИИ, в последние десятилетия является так называемый «цифровой разрыв», различный уровень развития цифровой инфраструктуры в странах с высоким уровнем дохода и остальных, неравномерный доступ различных групп населения к новым технологиям там, где цифровая инфраструктура развита. Цифровой разрыв может быть связан как с рассматриваемым эйджизмом, так и с гендерным неравенством (например, в развивающихся странах доля женщин, использующих мобильный Интернет, существенно меньше по сравнению с долей мужчин), культурой, религией, географией и другими факторами.

Дополнительную озабоченность вызывает растущее влияние некоторых компаний на разработку, развертывание и использование ИИ для здравоохранения (включая разработку лекарств), а также степень власти и влияния корпораций на отдельных лиц и правительства, технологии ИИ и здравоохранение.

Ситуация с соблюдением этических принципов использования систем ИИ в последние годы осложнилась тем, что технологические компании отдельно или совместно начали выпуск инструкций по этике [Metcalf et al., 2019]. Такие руководства устанавливают нормы и стандарты, которым компании публично и добровольно обязуются следовать. Необходимо отметить, что многие нормы выпущены в отсутствие или без учета авторитетных или юридически обязательных международных стандартов по тем или иным положениям. Приветствуя признание технологическими компаниями того факта, что внедрение технологий ИИ вызывает озабоченность общества, нельзя не отметить, что данные руководящие принципы, в зависимости от того, как они реализуются, могут быть не более чем формальным декларированием решения проблемы.

Во-первых, общественность, как правило, практически не играет роли в установлении стандартов. Во-вторых, руководящие принципы в основном применяются к предполагаемому поведению компаний в отношении технологий, которые они разрабатывают и внедряют (ролевая ответственность), а не к исторической ответственности за любой ущерб, за который следует распределить ответственность. В-третьих, контроль за тем, соблюдают ли компании свои собственные инструкции, как правило, осуществляется внутри компании, практически без прозрачности и без принудительного исполнения со стороны регулирующих органов. Наконец, эти обязательства не имеют юридической силы в случае их нарушения.

В последние годы вопросы соблюдения прав человека, этических принципов при использовании ИИ активно обсуждаются на международном уровне. У ЮНЕСКО есть рекомендации и принципы использования ИИ, больших данных в здравоохранении. Работа ЮНЕСКО над этическими последствиями ИИ поддерживается двумя постоянными экспертными комитетами: Всемирной комиссией по этике научных знаний и технологий и Международным комитетом по биоэтике. В 2017 г. опубликованы отчет Международного комитета по биоэтике о больших данных и здоровье, в котором определены важные элементы системы управления ИИ [International Bioethics Committee…, 2017], доклад Всемирной комиссии по этике научных знаний и технологий об этике робототехники за 2017 г. [World Commission on the Ethics of Scientific Knowledge and Technology…, 2017]. Важно отметить предварительное исследование этики ИИ, проведенное ЮНЕСКО в 2019 г., в котором были подняты этические вопросы в отношении образования, науки и тендера [Preliminary study on the technical and legal aspects…, 2019], даны рекомендации по этике ИИ для рассмотрения Генеральной конференцией ЮНЕСКО в 2021 г.

Глобальная конференция ВОЗ по первичной медико-санитарной помощи в 2018 г. приняла Астанинскую декларацию [Declaration of Astana, 2018], в которой содержатся принципы использования цифровых технологий. Декларация призывает к содействию рациональному, безопасному использованию и защите персональных данных и использованию технологий для улучшения доступа к медицинскому обслуживанию, улучшения предоставления медицинских услуг, повышения качества обслуживания и безопасности пациентов, а также повышения эффективности и координации помощи.

В 2019–2020 гг. Совет Европы учредил специальный комитет по искусственному интеллекту для проведения широких консультаций с участием заинтересованных сторон с целью определить потенциальные элементы правовой базы для разработки и применения ИИ в соответствии со стандартами Совета Европы в области прав человека, демократии и верховенства закона. Кроме того, в 2019 г. Совет Европы опубликовал Руководящие принципы по искусственному интеллекту и защите данных [Guidelines on artificial intelligence and data protection, 2019], также основанные на защите человеческого достоинства и прав человека и основных свобод. А Этическая хартия Европейской комиссии по эффективности правосудия включает пять принципов, имеющих отношение к использованию ИИ в интересах здоровья [European ethical charter on the use of artificial intelligence in judicial systems and their environment, 2018].

Таким образом, необходимость определения базовых, в том числе этических, принципов использования ИИ является крайне актуальной задачей и требует международного внимания. Строгий контроль со стороны правительства и надлежащее управление имеют важное значение в этом секторе.

§ 2. Базовые этические принципы применения искусственного интеллекта в сфере здравоохранения

Этические принципы применения ИИ в здравоохранении и других областях призваны помочь разработчикам, пользователям и регулирующим органам улучшить и контролировать разработку и использование таких технологий. Этический принцип – это заявление о долге или ответственности в контексте разработки, развертывания и постоянной оценки технологий искусственного интеллекта для здоровья.

Этические принципы основаны на основных этических требованиях, применимых ко всем лицам и не вызывающих противоречий. Человеческое достоинство и неотъемлемая ценность людей являются центральными требованиями, на которых покоятся все остальные этические принципы.

Основные этические требования:

– необходимо избегать причинения вреда другим (иногда это называется «не навреди» или «непричинение вреда»);

– необходимо способствовать благополучию других, когда это возможно (иногда это называется благодеянием). Риск вреда должен быть сведен к минимуму, а польза должна быть максимальна. Ожидаемые риски важно сбалансировать с ожидаемыми выгодами;

– необходимо обеспечить справедливое обращение со всеми людьми, что включает требование о том, чтобы ни одно лицо или группа не подвергались дискриминации, пренебрежению, манипулированию, доминированию или жестокому обращению (иногда это называется справедливостью);

– необходимо обращаться с людьми таким образом, чтобы уважать их интересы при принятии решений, касающихся их жизни и личности, включая решения о медицинском обслуживании, в соответствии с информированным пониманием характера выбора, который необходимо сделать, его значения, интересов человека и вероятных последствий альтернатив (иногда это называется уважением к личности или автономией).

Дополнительные требования могут вытекать из списка основных этических требований. Например, охрана и защита неприкосновенности частной жизни не только признаны юридическими требованиями во многих странах, но и важны для того, чтобы люди могли контролировать конфиденциальную информацию о себе и самоопределение (уважение их автономии) и избегать вреда.