Искусственный интеллект в здравоохранении - Коллектив авторов

D. Все перечисленное.

7. Входными данными для системы ИИ в здравоохранении могут быть…

A. Изображения.

B. Тексты.

C. Сигналы (например, аудиосигналы).

D. Все перечисленное.

8. Фальсифицированные МИ – это…

A. Изделия, не соответствующие требованиям безопасности и эффективности к маркировке, нормативной, технической и эксплуатационной документации, которые не могут быть безопасно использованы по назначению, установленному производителем (изготовителем).

B. Изделия, сопровождаемые ложной информацией о характеристиках и (или) производителе (изготовителе).

C. Изделия, не соответствующие требованиям к маркировке, нормативной, технической и эксплуатационной документации.

D. Изделия, которые не могут быть безопасно использованы по назначению, установленному производителем (изготовителем).

9. Государственный контроль в сфере обращения МИ осуществляет…

A. Федеральная служба по надзору в сфере здравоохранения (Росздравнадзор).

B. Федеральная служба по надзору в сфере защиты прав потребителей и благополучия человека (Роспотребнадзор).

C. Министерство здравоохранения Российской Федерации.

D. Орган исполнительной власти субъекта РФ.

10. Медицинские организации обязаны информировать о неблагоприятных событиях при применении МИ…

A. Производителя МИ.

B. Росздравнадзор.

C. Росздравнадзор и производителя МИ.

D. Росздравнадзор, Минздрав России и производителя МИ.

Задачи для самостоятельного решения

Задача 1. Компания Wellframe начала совместные исследовательские работы с Дармутским центром здоровья и долголетия. Партнеры стараются оценить эффективность цифровых медицинских инструментов и мобильных технологий для помощи людям с серьезными психическими заболеваниями (шизофренией). Они фокусируются на людях среднего и старшего возраста.

Именно такие люди подвергаются высокому риску ранней смерти, поскольку они, как правило, борются с комбинированными проблемами: как с психическими нарушениями, так и с сахарным диабетом и сердечно-сосудистыми заболеваниями.

В рамках исследования каждый пациент будет пользоваться специально разработанным мобильным приложением – ежедневно получать на свой мобильный телефон список вопросов о состоянии здоровья, на которые необходимо ответить. Также будут высылаться напоминания о ежедневных задачах, касающихся здоровья, и можно будет отслеживать свой прогресс в этой деятельности, включая задачи, связанные со своевременным приемом лекарств и физической активностью. Кроме того, пациенты смогут видеть контент, позволяющий им лучше понимать свое состояние (обучающие лекции от специалистов, описывающих особенности болезни).

В свою очередь, контрольный экран позволяет врачам Дармутского центра проверять прогресс своих подопечных и отсылать им соответствующие персонализированные сообщения, чтобы предоставить дополнительные инструкции или как-то поощрить их.

Исследовательская программа Дармутского центра использует программную платформу Wellframe Intelligent Care Management Platform.

Вопросы:

1. Оцените, может ли данная технология называться программным МИ с использованием технологии ИИ? Если да, почему? Если нет, назовите условия (возможный функционал, задачи), которые позволили бы ей называться ИИ.

2. К какому направлению использования ИИ в здравоохранении могла бы относиться приведенная технологическая разработка?

Задача 2. Система ИИ с непрерывным обучением «Мобильное приложение для диагностики поражений кожи» использует изображения, сделанные камерой смартфона одной из торговых марок, для предоставления врачу-дерматологу подробной информации о физических характеристиках поражения кожи, чтобы он мог обозначить его как доброкачественное или злокачественное. В технической документации системы ИИ изготовитель предлагает возможные изменения системы. Одно из изменений – повышение чувствительности и специфичности анализа физических характеристик доброкачественных или злокачественных поражений кожи с использованием данных практического применения системы ИИ.

Вопросы:

1. Какие, на ваш взгляд, изменения включены изготовителем в техническую документацию (в план управления изменениями)?

2. Можно ли в ходе применения системы ИИ осуществлять изменения, не входящие в план управления изменениями?

Раздел 3

Основные барьеры на пути внедрения технологий искусственного интеллекта в здравоохранение, пути их преодоления

§ 1. Глобальные проблемы, связанные с развитием искусственного интеллекта

Машинное обучение, основная технология ИИ на сегодняшний день, характеризуется рядом особенностей. Во-первых, для поиска вычислительной системой непредвзятого решения требуется ввести репрезентативный, релевантный и корректно размеченный набор данных. Во-вторых, алгоритмы работы нейронных сетей крайне сложны для интерпретации и, следовательно, результаты их работы могут быть подвергнуты сомнению и отменены человеком. Отсутствие понимания того, как ИИ достигает результатов, является одной из причин низкого уровня доверия к современным технологиям ИИ [Указ…, 2019], что является препятствием для развития ИИ.

Технологические решения, разработанные с использованием методов машинного обучения, являются примером ИИ, способного решать только узкоспециализированные задачи (это слабый ИИ). Создание универсального (сильного) ИИ, способного, подобно человеку, решать различные задачи, мыслить, взаимодействовать и адаптироваться к изменяющимся условиям, является сложной научно-технической проблемой на пересечении различных сфер научного знания – естественно-научной, технической и социально-гуманитарной.

В то же время ИИ развивается стремительно, качественный рывок в процессе его эволюционирования может произойти в обозримом будущем. Например, в настоящее время разработку лекарственных препаратов контролирует человек или ИИ под руководством человека. Но в ближайшие десятилетия по мере совершенствования технологий системы ИИ смогут самостоятельно синтезировать новые препараты, анализируя большие данные из различных источников, тестировать их без участия животных или людей на компьютерных моделях организма, отдельных систем и органов, опухолей, с использованием генетических и других параметров.

Создание сильного ИИ может привести не только к позитивным изменениям в ключевых сферах жизнедеятельности, но и к негативным последствиям, вызванным социальными и технологическими факторами, которые сопутствуют развитию технологий ИИ.

Несмотря на то что в медицине системы ИИ вряд ли когда-либо достигнут полной автономии, постепенное вытеснение заключения врача-специалиста мнением системы ИИ, безусловно, вызывает ряд опасений и вопросов. В некоторых случаях автоматизация рутинных, обыденных функций, таких как запись информации, может перераспределить человеческие ресурсы поставщика медицинских услуг для более важных и ответственных задач. Однако переход к применению технологий ИИ в более сложных областях медицинской помощи сопряжен с рядом проблем. Одной из них является вероятное появление разногласий между двумя компетентными экспертами – компьютером с ИИ и врачом-специалистом.

В таких ситуациях нет средств для объединения решений или дискуссий, поскольку нельзя получить доступ к алгоритму ИИ или заставить его передумать. Также нет четких правил для определения того, кто прав. Если пациенту остается доверять либо технологии, либо врачу, решение может зависеть от факторов, не имеющих основы в «экспертизе» машины или врача. Выбор одного из двух приводит к нежелательному результату. Если врач игнорирует машину, ИИ мало что дает. Если врач принимает решение машины, это может подорвать авторитет специалиста и ослабить ответственность. Проблема взаимодействия человека и компьютера решается путем проверки систем ИИ, обеспечения надлежащего обучения пользователей. Однако врачам может быть этически сложно полагаться на суждения ИИ, поскольку в этом случае приходится принимать решения, основанные на алгоритмах «черного ящика», то есть, например, системы глубокого обучения, которая делает выводы и принимает решения, непонятные даже ее разработчикам [Pasquale, 2015].

На фоне совершенствования алгоритмов