Искусственный интеллект в здравоохранении - Коллектив авторов

глубокого обучения появляются все новые научные исследования о путях решения проблем функционирования систем ИИ, которые могут влиять и, возможно, уже сегодня влияют на качество и безопасность медицинской деятельности. Так, в ноябре 2022 г. учеными Калифорнийского университета проанализированы механизмы «катастрофического забывания», амнезии искусственных нейронных сетей, которые выражаются в полном «забывании», фактически стирании («перезаписи» новыми данными) ранее полученных знаний при изучении новых задач [Golden et al., 2022]. В проведенном исследовании спайковую нейронную сеть можно было обучить сложной задаче поиска пищи, но она демонстрировала «катастрофическое забывание» при последовательном обучении различным задачам, могла неожиданно полностью забыть то, чему уже научилась ранее. Чередование обучения новым задачам с периодами реактивации в автономном режиме, то есть имитация биологического сна, позволило решить эту проблему. После прохождения фаз «сна» спайковая сеть смогла выполнить как новую, так и старую задачи.

Повышение роли систем ИИ может существенно повлиять на отношения медицинских работников и пациентов, медицинских работников между собой, медицинских организаций и органов управления с производителями систем ИИ и в целом на функционирование системы здравоохранения. Таким образом, актуальными вопросами являются определение уровня автономии систем ИИ и контроль за его поддержанием.

Повышение степени автономности систем ИИ, снижение контроля человека за процессом их применения, не полностью прозрачный процесс принятия решений создают общественный запрос на регуляторные ограничения применения ИИ.

В настоящее время в мире отсутствуют единые подходы к регулированию технологий ИИ, что во многом связано с наличием ряда проблем, не имеющих однозначного решения. Например, нерешенным остается вопрос оформления и учета исключительных прав на результаты интеллектуальной деятельности, полученные с использованием ИИ. В 2020 г. в Китае суд обязал организацию, скопировавшую и разместившую с указанием на отсутствие автора текст статьи, написанной ИИ, удалить текст и выплатить компенсацию владельцу ИИ как правообладателю. В судебном решении указано, что сгенерированный ИИ контент отвечает критериям литературного произведения, обладает признаками осознанного подбора информации, анализа, логики и оригинальности [Polydor et al., 2020]. В то же время Европейское патентное ведомство при рассмотрении патентной заявки указало, что ИИ не может быть автором изобретения.

Очевидно, что для развития технологий ИИ и робототехники необходимо стремиться к достижению баланса интересов человека, общества, государства, бизнеса, а также потребителей. Однако представления об этом балансе существенно разнятся.

Эксперты, привлеченные ВОЗ, провели большую работу по анализу практического использования ИИ, имеющейся нормативной базы, глобальных проблемных аспектов, связанных с нарастающими объемами разработки и внедрения ИИ в систему здравоохранения, в том числе с учетом многообразия условий здравоохранения и уровня жизни в разных странах. Результатом стало издание в 2021 г. руководства ВОЗ «Этика и управление ИИ в сфере здравоохранения» [Ethics and governance of artificial intelligence for health: WHO guidance, 2021]. В руководстве отмечается огромный потенциал ИИ, при этом поднимается целый ряд острых текущих вопросов в связи с его развитием, а также обсуждаются возможные проблемы, которые могут появиться в перспективе.

Первоочередной задачей является проведение в каждом случае оценки необходимости внедрения той или иной технологии ИИ.

Во-первых, сама технология ИИ может не соответствовать стандартам научной обоснованности и точности, которые в настоящее время применяются к медицинским технологиям. Например, цифровые технологии, разработанные на ранних стадиях пандемии COVID-19, не обязательно соответствовали какому-либо объективному стандарту эффективности, оправдывавшему их использование. Технологии ИИ были внедрены в рамках ответных мер на пандемию без достаточных доказательств, таких как результаты рандомизированных клинических исследований или гарантий. Чрезвычайная ситуация не оправдывает применение непроверенных технологий. Усилия по обеспечению того, чтобы ресурсы выделялись там, где они были наиболее остро необходимы, должны были повысить бдительность как компаний, так и государственных органов в сфере здравоохранения, чтобы гарантировать, что технологии были точными и эффективными.

Во-вторых, преимущества ИИ могут быть переоценены, когда делаются ошибочные или чрезмерно оптимистичные предположения об инфраструктуре и институциональном контексте, в котором будут использоваться технологии, и где внутренние требования к использованию технологии ИИ не могут быть выполнены. В некоторых странах с низким уровнем дохода финансовые ресурсы и инфраструктура информационно-коммуникационных технологий отстают от инфраструктуры развитых стран. Качество и доступность данных могут быть недостаточными для использования ИИ, особенно в развивающихся странах. Существует опасность того, что для обучения ИИ будут собираться неполные, некачественные данные (из-за языковых барьеров, нехватки медицинских работников на местах и т. д.), что может привести к созданию моделей, которые предсказывают ошибочные выводы вместо реальных клинических результатов. При этом регулирующие органы в развивающихся странах могут не обладать потенциалом или опытом для оценки технологий искусственного интеллекта, чтобы гарантировать, что систематические ошибки не влияют на диагностику и лечение.

В-третьих, могут быть этические ограничения для практического использования технологии ИИ, даже если она предоставляет точную, полезную информацию. Технология, которая может предсказать, у каких людей может развиться диабет 2-го типа или ВИЧ-инфекция, может принести пользу человеку или группе людей, находящимся в группе риска, но также может привести к ненужной стигматизации отдельных лиц или групп, выбор моделей поведения которых ставится под сомнение или даже криминализируется. Это приводит к чрезмерной «охране здоровья» в остальном здоровых людей, создает ненужный стресс и подвергает их агрессивному маркетингу со стороны фармацевтических компаний и других коммерческих медицинских служб. Кроме того, некоторые технологии ИИ, если их не применять должным образом, могут усугубить диспропорции в здравоохранении, в том числе связанные с этнической принадлежностью, социально-экономическим статусом или полом.

В-четвертых, как и для всех новых технологий здравоохранения, преимущества технологий ИИ могут быть не оправданы дополнительными расходами (помимо инфраструктуры информационно-коммуникационных технологий), связанными с необходимыми закупками, обучением и инвестициями. Например, роботизированная хирургия может дать лучшие результаты, но необходимо также учитывать альтернативные издержки, связанные с инвестициями.

В-пятых, может не уделяться достаточного внимания тому, адаптирована ли технология ИИ к контексту развивающейся страны или к коммуникации между странами. Отсутствие инвестиций, например, в перевод может означать, что определенные приложения работают некорректно или просто не могут быть использованы населением. Большинство технологий ИИ разрабатываются группами населения с высоким уровнем дохода, и для них часто свойственно недостаточное понимание характеристик целевых групп населения в развивающихся странах.

Использование ИИ в условиях нехватки ресурсов должно быть расширено с осторожностью, чтобы избежать таких ситуаций, в которых большое число людей получает точные диагнозы состояния здоровья, но не имеет доступа к надлежащему лечению. Медицинские работники обязаны проводить лечение после тестирования и подтверждения заболевания, и относительно низкая стоимость, при которой может быть применена диагностика ИИ, должна сопровождаться тщательным планированием, чтобы гарантировать, что люди не останутся без лечения.

Несмотря на ценность рекомендаций по необходимости оценки, изложенных в руководстве ВОЗ «Этика и управление ИИ в сфере здравоохранения», необходимо отметить, что они носят рамочный