Искусственный интеллект в здравоохранении - Коллектив авторов

– портативного МИ, фактически мобильного телефона с сейсмостойким и огнеупорным комплексом, который работает как компьютер, с источником света и увеличительным стеклом;

– встроенного алгоритма ИИ на основе машинного обучения (данные (фотографии) систематически загружаются в систему уже на протяжении семи лет, что позволяет говорить о полноте набора данных для обучения);

– системы хранения, которая автоматически синхронизирует данные устройства с электронными базами медицинских данных.

С учетом актуальности проблемы выявления рака шейки матки, а также ограниченности ресурсов и недостаточно развитой инфраструктуры вопрос применения технологии в странах с низким и средним уровнем дохода актуален.

Компонентами оценки могут стать результаты на этапе разработки и обучения модели ИИ, определение того, насколько выполняется целевой показатель – выявление предраковых поражений шейки матки. Затем необходима проверка эффективности в реальных условиях. Нужно сравнить эффективность выявления целевого поражения человеком и системой ИИ, а также эффективность с точки зрения затрат и выгод. Важно оценить, насколько введенные данные представляют полный спектр заболеваний шейки матки, а также пограничных изменений. Описаны ли разработчиками принципы разделения наборов данных (является ли распространенность целевого для выявления заболевания в наборе данных внутреннего проверочного теста репрезентативной)? Следует также ответить на вопрос: система ИИ помогает, информирует медицинских работников или управляет процессом? Нужно оценить, насколько система ИИ станет эффективна в конкретных социально-экономических и географических условиях.

Кто является предполагаемыми пользователями устройства с учетом требований и возможностей в системе здравоохранения конкретной страны? Какой должен быть уровень их квалификации? Будет МИ применяться на этапе первичного скрининга или у женщин, попавших в группу высокого риска? В каких условиях будет проводиться скрининг (в городе или сельской местности, в стационаре или небольшой амбулатории)? Четко ли описаны принцип работы МИ, весь процесс взаимодействия пользователя с МИ (способ получения и ввода данных, работа с выходными данными)? Подробно ли описаны критерии включения и исключения на уровне входных данных (предыдущая абляция шейки матки, ВИЧ-положительные пациентки)? Каким образом поступать в случае несогласия медицинского работника с заключением алгоритма ИИ? Как будут фиксировать ошибки системы ИИ? Каков план действий при их обнаружении? Как предполагается поступать с результатами исследования (маршрутизация пациентов, возможность пройти дальнейшее обследование и лечение)?

Только полный ответ на эти вопросы может дать организаторам здравоохранения основания для решения о внедрении системы ИИ в практику, особенно в странах, где отсутствует должная регуляция и контроль на государственном уровне.

В настоящее время в условиях применения четких норм и правил использования ИИ в здравоохранении, в первую очередь МИ с технологиями ИИ, исследователи пытаются разработать минимальные стандартизированные вопросы, на которые должны ответить разработчики систем ИИ, и способы структурировать данную информацию в удобной форме для пользователей и лиц, принимающих решение о внедрении. Так, междисциплинарной командой, включающей разработчиков, клиницистов и экспертов по регулированию, разработан «шаблон отчетности, этикетка», предназначенный для этих целей и содержащий основные факты о МИ. Основные разделы включают: название системы ИИ, языковой стандарт, версию, технические параметры, механизм расчета риска, производительность, эффективность, условия использования, предупреждения и другую информацию из научной литературы, что позволяет повысить уровень отчетности и прозрачности [Sendak et al., 2020].

Существенным является вопрос о соблюдении прав человека при использовании ИИ. Системы ИИ, повышая качество медицинской помощи, безусловно, способствуют реализации права человека на здоровье, в то же время могут нарушать другие права и свободы, такие как недискриминация и неприкосновенность частной жизни. Например, существует риск, внедряя ИИ, дегуманизировать уход за пожилыми людьми, подорвать их автономию и независимость. Кроме того, использование ИИ может поставить под угрозу безопасность пациентов. Ошибки систем ИИ, в том числе неверные рекомендации (например, какой лекарственный препарат применять), могут нанести вред как конкретному пациенту, так и целой группе пациентов, причем за короткое время.

Широкую известность получил следующий случай. Система ИИ Watson Health используется в сотнях больниц по всему миру для лечения 13 видов рака у десятков тысяч пациентов. С внедрением данной аналитической платформы ожидался мощнейший технологический прорыв в лечении онкологических больных. Однако летом 2018 г. бывшим заместителем руководителя проекта Эндрю Норденом были представлены две презентации, содержащие свидетельства ошибок в работе системы «Watson для онкологии». Как следовало из представленных документов, искусственный интеллект предлагал неточные и неправильные методы лечения, которые могли привести к тяжелым осложнениям вплоть до летального исхода[15].

Приложение NHS, которое было разработано в Великобритании для уведомления людей о необходимости самоизоляции в случае заражения, было запрограммировано неправильно[16]. В результате пользователь приложения должен был находиться рядом с высокозаразным пациентом в пять раз дольше, чем это считалось рискованным, прежде чем ему было дано указание самоизолироваться. Хотя приложение скачали до 19 млн человек, крайне малому числу людей был дан сигнал изолироваться, тем самым они подвергали риску заражения себя и других.

Не зарекомендовала себя и система прогнозирования подростковой беременности в Аргентине, основанная на технологиях ИИ. В 2017 г. провинция Сальта (Аргентина) подписала соглашение с Microsof об использовании ИИ для предотвращения подростковой беременности в целях общественного здравоохранения и как инструмент для предотвращения отчисления из школы. Microsof использовала данные для обучения ИИ, собранные в уязвимых ситуациях местным правительством от населения.

Местные власти описали систему[17] как интеллектуальные алгоритмы, которые определяют характеристики людей, влияющие на появление беременности в подростковом возрасте, и предупреждают правительство для проведения профилактических мероприятий. Данные, обработанные серверами Microsof, были распределены по всему миру. Утверждалось, что на основе собранных данных алгоритм ИИ предскажет, забеременеет ли подросток с точностью 86 % [Peña, Varon, 2019]. Однако после того, как о партнерстве стало известно, местные эксперты [Sobre la predicción automática de embarazos adolescents, 2018] оспорили его по следующим причинам:

1. Тестирование алгоритмов прогнозирования подростковой беременности имело значительные методологические недостатки. Обучающие данные, использованные для построения прогностического алгоритма, и данные, использованные для оценки точности алгоритма ИИ, оказались практически идентичными, что привело к ошибочному выводу о прогностической точности системы.

2. Тип собранных данных не подходил для установления риска беременности в будущем. Используемые обучающие данные были получены из опроса подростков, проживающих в провинции Сальта, который включал личную информацию (возраст, этническую принадлежность, страну происхождения), информацию об окружении (количество людей в домашнем хозяйстве, есть ли у них горячая вода в ванной) и тот факт, была ли девушка на момент обследования беременна. Эти данные не подходили для определения того, забеременеет ли она в будущем (например, в течение последующих шести лет), для чего потребовались бы данные, собранные за пять или шесть лет до наступления беременности. Собранные данные можно было