Искусственный интеллект в здравоохранении - Коллектив авторов

характер и формулируют вопросы, на которые организаторам здравоохранения различных уровней целесообразно ответить прежде, чем внедрять конкретную технологию ИИ. Вместе с тем актуальным является вопрос разработки системных подходов к экономической оценке применения ИИ в здравоохранении, особенно в долгосрочном периоде, когда, в том числе из-за развития ИИ, произойдет переход от закрытой системы здравоохранения, состоящей из взаимоотношений пациентов и врачей, к открытой, когда многие пространственные и временны́е барьеры преодолены. Непрерывный рост глобальных затрат на здравоохранение усиливает важность решения вопроса.

Существующие экономические оценки в этой области в достаточной мере условны, что определено рядом причин [Лукичев, Чекмарев, 2022]:

1. Фактическая оценка затрат использования ИИ в экономике здравоохранения происходит по затратам поставщика, в то время как правильнее оценивать их с точки зрения общества как совокупность затрат, понесенных пациентами, правительством, поставщиками медицинских услуг, а также расходов, понесенных в результате вмешательства. Однако проведение такой оценки на практике затруднено. Еще более непростой проблемой является точная оценка выгод, получаемых от использования ИИ в медицине.

2. Сложность вычленения затрат на ИИ среди всех затрат здравоохранения. ИИ использует программное обеспечение вместе с другими медицинскими устройствами (томографами, микроскопами и др.), поэтому основные первоначальные затраты будут связаны с медицинским оборудованием. В таких случаях стоимость программного МИ с технологиями ИИ может быть учтена только косвенным образом, тогда, когда она соотносится с человеческими экспертами в интерпретации изображений, поскольку для обеих модальностей используется одно и то же оборудование. Еще сложнее выделить выгоды, получаемые от использования ИИ в медицине (где заканчивается эффект от оборудования, в котором используется ИИ, и начинается эффект от собственно ИИ). Сопоставление с человеческими экспертами – шаг в верном направлении, но эксперты бывают разного уровня. Следовательно, экономическая оценка применения ИИ в данном случае будет приблизительной.

3. Наиболее полный метод экономической оценки применения ИИ в здравоохранении в зависимости от результатов – метод анализа затрат и выгод – редко применялся в контексте здравоохранения, поскольку присвоение денежных значений клиническим результатам затруднено. Более широкое использование ИИ в медицине потребует в дальнейшем стандартизованного подхода к экономической оценке.

Особую актуальность оценка необходимости внедрения конкретной технологии ИИ приобретает в случае, если речь идет о программном обеспечении, являющемся МИ с применением технологий ИИ. Такие системы ИИ, являясь компонентом оказания медицинской помощи, влияя на клинические решения, могут существенно влиять на уровень качества и безопасности медицинской деятельности и эффективность системы здравоохранения в целом.

В настоящее время отсутствуют общепризнанные подходы к сравнительному анализу для оценки данных, полученных в результате использования программных МИ с технологиями ИИ. Доказательства должны охватывать весь жизненный цикл таких МИ. Эксперты ВОЗ в 2021 г. обобщили имеющийся опыт обучения, проверки и оценки МИ с технологиями ИИ, проанализировали проблемы их широкого внедрения в системы здравоохранения и пути совместного решения данных проблем медицинскими организациями, разработчиками и органами управления здравоохранением [Generating evidence for artificial intelligence-based…, 2021].

В опубликованном руководстве отмечается отсутствие нормативно-правовой базы для широкого внедрения таких устройств в системы здравоохранения, предлагаются подходы к сбору доказательств, разработке, проверке, составлению отчетности.

Главной проблемой на сегодняшний день является практическое отсутствие клинических рандомизированных контролируемых испытаний программных МИ с технологиями ИИ и низкий уровень предоставления доказательств в случае их проведения [Liu et al., 2019]. В связи с этим перед разработкой и (или) внедрением существующей системы ИИ необходимо учитывать особенности страны, уровень развития, состояние инфраструктуры, организацию системы здравоохранения, возможности и риски, связанные с внедрением ИИ для решения конкретной задачи, перспективы интеграции в существующую систему, масштабирование. Для принятия решений необходимо провести анализ предложений разработчиков, оценить технологии ИИ, начав с вопросов, касающихся удобства и эффективности МИ:

1. Пригодно ли МИ для использования целевыми конечными пользователями, соответствует ли оно их рабочему процессу?

2. Каковы требования конечного пользователя?

3. Существуют ли препятствия для возможности научиться использовать МИ по назначению?

4. Имеется ли система вводного обучения?

5. Предусмотрено ли периодическое обучение пользователей по мере использования, появления различных версий МИ?

6. Каков процент ошибок при использовании системы ИИ?

7. Повлияло ли внедрение технологии в систему здравоохранения на процессы и (или) показатели, результаты (например, производительность врача-специалиста)?

8. Является ли МИ рентабельным?

Если система ИИ одобрена регулятором какой-либо страны (экономического союза), это означает, что она прошла процедуру клинической оценки (клинического испытания), включающую, как правило, аналитическую и клиническую валидацию, а также установление клинической связи. В настоящее время в мире отсутствуют единые подходы к клинической оценке, нарабатываются практические методы ее проведения. Определение основной цели внедрения системы ИИ (результата, представляющего наибольший интерес) помогает решить, какой тип клинической оценки требуется. Например, является ли первостепенным то, что ИИ превосходит человека в решении конкретной задачи (ожидается повышение эффективности ее выполнения), или ожидается более ориентированный на пациента результат (на выживание пациента).

Предполагаемое использование (назначением) системы ИИ должно быть тщательно продумано, важно максимально конкретно сформулировать, когда, где и как ее следует применять. Это позволит оценивать полученные доказательства эффективности и безопасности в правильном контексте.

В эксплуатационной документации изготовителя необходимо подробное описание системы, ответить на следующие вопросы:

– Что именно делает система ИИ?

– Каков принцип работы программного обеспечения?

– Каков уровень участия системы в принятии врачебных решений (замена, дополнение, оценка)?

– Каковы предполагаемые медицинские показания?

– Какова предполагаемая модель пациента?

– С какой частью тела (органом, системой, тканью и т. д.) будет осуществляться взаимодействие?

– Каков профиль предполагаемого пользователя (пользователей)?

– Какова предполагаемая рабочая среда?

– Каковы могут быть возможные неблагоприятные последствия использования системы? Пути минимизации рисков и последствий.

– Какие возможны уровни и типы модификаций системы ИИ в процессе использования?

Путь сбора доказательств начинается на этапе обучения алгоритма на основе набора данных. Неполное представление данных, их низкое качество остается в настоящее время одним из препятствий для оценки воздействия системы ИИ на здравоохранение. Предвзятость и другие дефекты систем ИИ могут возникнуть из-за того, что устройство было обучено на наборах данных, которые отличаются от данных целевых групп пациентов, для которых предполагается использовать данную систему ИИ. Управление наборами данных должно включать «невидимые», то есть защищенные от разработчиков, исследователей, тестовые наборы входных данных вне выборки.

Важным этапом является внешняя проверка системы ИИ. В настоящее время публикуется все больше исследований, документирующих внешнюю проверку систем ИИ. Так, в Швеции в 2020 г. проведена оценка эффективности трех доступных на рынке систем поддержки принятия врачебных решений на основе ИИ при оценке результатов скрининговой маммографии. Оценивалось соответствие заключений систем ИИ заключениям врачей-рентгенологов и окончательному результату на экспертном уровне. Набор данных для внешней валидации включал 8805 женщин. Исследование показало, что только один алгоритм ИИ оказался более точным, чем врачи-специалисты уровня «первого чтения». Диагностическая эффективность этого алгоритма позволяла ему самостоятельно оценивать снимки.