Искусственный интеллект в здравоохранении - Коллектив авторов

Всемирного экономического форума в 2016 г. вышел доклад «Будущее профессий», а в продолжение к нему в 2019 г. – «Профессии будущего». В докладе приводится аналитическая информация о том, в каких областях экономики ожидается широкое внедрение ИИ до 2025 г.: аналитика больших данных (big data) (85 %); мобильные и веб-приложения (75 %); интернет вещей (75 %); машинное обучение (73 %); облачные технологии (72 %); к числу перспективных технологий респонденты отнесли дополненную и виртуальную реальность (58 %), блокчейн (45 %), 3D-печать (41 %) и беспилотный транспорт (40 %). Соответственно, должен значительно возрасти спрос на специалистов по ИИ.

Согласно докладу, с одной стороны, в бизнесе ожидается сокращение рабочих мест на 0,98 млн человек, а с другой – повышение спроса на новые повышающие производительность профессии (на 1,74 млн человек). Если опираться на данные показатели, можно надеяться на то, что повсеместное внедрение ИИ не только не лишит рабочих мест, но и создаст новые[23]. Глобальная кампания в России в 2021–2022 гг. по отбору кандидатов на бесплатное обучение цифровым профессиям (на портале «Госуслуги») вполне соответствовала поставленной задаче.

В условиях кадрового дефицита в здравоохранении РФ проблема вытеснения ИИ из сферы оказания медицинских услуг врача или медицинской сестры не является актуальной.

Таким образом, в последние годы учеными обозначены основные актуальные проблемы регулирования ИИ, намечены возможные решения.

Вектор развития правового регулирования в сфере ИИ в РФ определен Указом Президента РФ от 01.12.2016 № 642 «О Стратегии научно-технологического развития Российской Федерации», распоряжениями Правительства РФ от 23.03.2018 № 482-р и от 28.07.2017 № 1632-р, Указом Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации», Федеральным законом от 24.04.2020 № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона „О персональных данных“».

Важным документом стала Концепция развития регулирования отношений в сфере технологий ИИ и робототехники до 2024 г., утвержденная в 2020 г. В Концепции обозначены следующие основные проблемные направления регулирования в современных условиях [Распоряжение…, 2020]:

– соблюдение баланса между требованиями по защите персональных данных и необходимостью использования персональных данных для обучения систем ИИ;

– определение предмета и границ регулирования сферы использования систем ИИ и робототехники;

– идентификация системы ИИ при взаимодействии с человеком, включая информирование о взаимодействии с такой системой;

– правовое «делегирование» решений системам ИИ и робототехнике;

– ответственность за причинение вреда с использованием систем ИИ и робототехники;

– правовой режим результатов интеллектуальной деятельности, созданных с использованием систем ИИ;

– использование для принятия решений системами ИИ вероятностных оценок и невозможность в ряде случаев полного объяснения принятого ими решения (проблема алгоритмической прозрачности систем ИИ).

Ключевыми барьерами существующего регулирования, препятствующими широкому использованию технологий ИИ, являются:

– проблема распределения ответственности за вред здоровью пациента, наступивший в результате применения технологий ИИ в процессе оказания медицинской помощи, вследствие отсутствия законодательно установленного перечня случаев, при которых допускается полное или частичное принятие решений с применением систем ИИ;

– неопределенность в вопросах отнесения систем ИИ (включая приложения, чат-боты и др.) к МИ, подлежащим государственной регистрации;

– отсутствие специального порядка регистрации систем ИИ и медицинских роботов, учитывающего их специфику, а также долгие сроки прохождения соответствующих процедур, которые не позволяют быстро выводить на рынок новые решения, оперативно вносить изменения в системы и пользовательскую документацию в связи с необходимостью регулярных обновлений программного обеспечения;

– низкая доступность медицинских данных в целом и качественных размеченных данных в особенности для использования разработчиками систем ИИ в связи с отсутствием достаточных правовых оснований для предоставления права использования обезличенных медицинских данных третьим лицам, регламентов передачи медицинских данных от медицинских организаций компаниям – разработчикам систем ИИ.

В условиях фактически правового вакуума участники сферы ИИ активно прибегают к саморегулированию, формируя так называемое мягкое право (кодекс поведения и стандарты), что не снимает необходимости государственного регулирования названной сферы отношений для минимизации рисков, вызываемых часто бесконтрольным развитием ИИ [Шахназаров, 2020, с. 79].

Очевидно, что с учетом экономической и социальной значимости применения технологий ИИ и робототехники регуляторные меры не должны ограничивать их разработку и эксплуатацию, за исключением случаев, связанных с высоким риском причинения вреда жизни и здоровью граждан. Приоритетной целью регулирования отношений в сфере ИИ и робототехники на данном этапе их развития является стимулирование разработки, внедрения и использования таких технологий, создания ИИ и робототехники в доверенном и безопасном исполнении. Особенно актуальным становится развитие саморегулирования участниками рынка технологий ИИ.

В настоящее время в Российской Федерации выделены 13 общеотраслевых задач регулирования применения технологий ИИ [Распоряжение…, 2020]. В качестве наиболее значимых из них можно отметить следующие семь:

– разработка и уточнение терминов в сфере ИИ;

– создание специальных механизмов тестирования и внедрения систем ИИ (экспериментальные правовые режимы («регуляторные песочницы») и др.);

– доработка механизмов гражданско-правовой, уголовной и административной ответственности в случае причинения вреда системами ИИ, в том числе с точки зрения определения лиц, которые будут нести ответственность за их действия, формирования механизмов безвиновной гражданско-правовой ответственности, а также возможности использования способов, позволяющих возместить причиненный вред (страхование ответственности и др.);

– совершенствование режима оборота данных (обеспечение условий для безопасного и ответственного доступа разработчиков систем ИИ к данным, возможности обмена различными типами данных, включая данные, собираемые государственными органами и медицинскими организациями);

– уточнение требований к обеспечению безопасности при внедрении и применении систем ИИ;

– создание нормативных условий для применения систем ИИ при принятии юридически значимых решений;

– совершенствование порядка охраны прав на результаты интеллектуальной деятельности (потенциальная «неохраноспособность» результатов деятельности, полученных с использованием систем ИИ без творческого вклада человека, может дестимулировать разработку и внедрение таких систем).

К практическим барьерам на пути внедрения ИИ в здравоохранение можно отнести зачастую низкое качество входных медицинских данных (неструктурированные, неполные, невалидированные и т. д.). Кроме того, персональные данные нельзя передавать, а при обезличивании теряется связь с другими медицинскими учреждениями. Не решены вопросы с оплатой технологий ИИ в системе обязательного медицинского страхования, а также дефицита компетенций у работников медицинских организаций.

Актуальным для Российской Федерации является совершенствование наднационального правового регулирования применения инновационных цифровых технологий, в том числе ИИ в рамках Евразийского экономического союза. В настоящее время активно изучается положительный опыт стран – участниц ЕАЭС, разрабатываются проекты нормативных актов, например Конвенции совершенствования наднационального правового регулирования в ЕАЭС в сфере здравоохранения в условиях развития инновационных цифровых технологий [Акулин и др., 2022].

Важным аспектом внедрения систем ИИ в отечественное здравоохранение, наряду с развитием нормативно-технического регулирования, является необходимость соблюдения этических норм. Стремительное распространение ИИ, в том числе в сфере медицины, стало катализатором активной дискуссии в области развития этики в условиях