Искусственный интеллект в здравоохранении - Коллектив авторов

использовать в лучшем случае для определения того, была ли девочка-подросток беременна в настоящий момент. Алгоритм прогнозирования также был неподходящим, поскольку он давал чувствительные для подростков прогнозы без их (или их родителей) согласия, тем самым подрывая их частную жизнь и автономию. Поскольку алгоритм нацелен на особо уязвимых лиц, маловероятно, что у них будет возможность оспорить использование такого вмешательства, и это может усилить дискриминацию[18].

Несмотря на критику и недостатки, указанная система ИИ продолжает использоваться в Бразилии и Колумбии, а также в некоторых провинциях Аргентины [Peña, Varon, 2019]. Недостатки в алгоритме было бы легче выявить, если бы была бóльшая прозрачность в отношении наборов данных, используемых для обучения и оценки алгоритма, технических спецификаций и гипотез, лежащих в основе разработки модели [Ortiz Freuler, Iglesias, 2018].

Использование компьютерных технологий сопряжено с неотъемлемым риском безопасности из-за недостаточного внимания к минимизации риска при их проектировании, а также из-за недостатков в компьютерном коде и связанных с ними ошибках и сбоях. Информация о травмах и смертях занижена, отсутствуют официальные данные и мало масштабных исследований. В одном из исследований, проведенных в Великобритании, например, было подсчитано, что до 2000 смертей в год могут быть вызваны компьютерными ошибками и недостатками[19].

Поскольку системы здравоохранения становятся все более зависимыми от ИИ, можно ожидать, что эти технологии станут мишенью для хакерских атак и взлома с целью выключения определенных систем, похищения данных, манипулирования данными, используемыми для обучения алгоритма, при изменении его производительности и рекомендаций. Исследование, проведенное в 2013 г., показало, что четырех анонимных точек данных достаточно для уникальной идентификации человека с точностью 95 % [de Montjoye et al., 2013].

Высокую угрозу представляет возможность неправомерного доступа к медицинским системам, непосредственно участвующим в оказании медицинской помощи. Так, В. С. Овчинский описывает первый известный случай умышленного убийства с применением робототехники. В 2016 г. таким образом был убит пациент, находившийся в палате интенсивной терапии госпиталя ордена иезуитов в Сан-Мигеле. Преступники, используя вредоносную программу, смогли вмешаться в работу медицинской системы, управляющей автоматической раздачей лекарств, в результате чего в организм жертвы вместо назначенного лекарственного препарата было введено ядовитое вещество [Овчинский, 2018].

Условия кибербезопасности постоянно совершенствуются, что требует значительных ресурсов и затрат, а также реализации оптимальных технических решений, например технологии Lightweight Portable Security (LPS). На USB-fash-накопитель записывается дистрибутив операционной системы, средства доверенной загрузки, web-браузер, средства электронной подписи и шифрования, а также прикладное программное обеспечение, позволяющее пользователю решать профессиональные задачи. Данные в ходе работы записываются на накопитель, по мере необходимости синхронизируются с использованием «облачных серверов» и других технологий. Такой же доступ с возможностью подключаться к «личному кабинету» может быть обеспечен для пациента [Столбов, 2020]. При этом нужно отметить, что ни одна защита не эффективна на 100 %, и за новыми средствами защиты появляются усовершенствованные системы их преодоления.

Важным аспектом в контексте защиты прав человека является защита данных при их передаче и анализе системами ИИ. Сбор, использование, анализ и обмен данными о состоянии здоровья постоянно вызывают широкую обеспокоенность по поводу неприкосновенности частной жизни, поскольку отсутствие конфиденциальности может либо нанести вред человеку (например, будущая дискриминация по признаку состояния здоровья), либо затронуть достоинство человека, если данные о состоянии здоровья попадут в общий доступ [McNair, Price, 2019].

Существует риск того, что совместное использование или передача данных делают их уязвимыми не только для киберкражи, но и для случайного раскрытия. Рекомендации, сгенерированные алгоритмом из медицинских данных человека, вызывают опасения с точки зрения конфиденциальности, поскольку человек ожидает, что такие «новые» медицинские данные являются частными. Передача их третьими лицами может быть незаконной. Опасения по поводу конфиденциальности усиливаются у стигматизированных и уязвимых групп населения, для которых раскрытие данных может привести к дискриминации или карательным мерам [Xafis et al., 2019].

Большая проблема заключается в том, что данные о состоянии здоровья, собираемые поставщиками технологий ИИ, могут превышать то, что требуется, и что такие избыточные данные, так называемые «излишки поведенческих данных» [Zuboff, 2019], используются повторно для целей, вызывающих серьезные этические, юридические и правозащитные вопросы.

Такое перепрофилирование, изменение функций собираемых данных является проблемой, которая предшествовала использованию ИИ в здравоохранении, но усилилась в ходе борьбы с COVID-19. Например, в начале 2021 г. правительство Сингапура признало, что к данным, полученным с помощью приложения для бесконтактного отслеживания COVID-19 (Trace Together), также можно получить доступ «в целях уголовного расследования», несмотря на предварительные заверения, что подобный доступ не будет разрешен. В феврале 2021 г. было принято законодательство, ограничивающее использование данных и допускающее их использование только для самых серьезных уголовных расследований, таких как обвинения в убийстве или терроризме. Предусматривалось наказание за любое несанкционированное использование[20].

Сбор и отслеживание данных, связанных с наличием иммунитета к COVID-19, вызывает опасение, что правительства могут использовать информацию для создания систем массового наблюдения или оценки при мониторинге повседневной деятельности. Данные могут быть переданы компаниям для продвижения товаров и услуг или создания продуктов, основанных на прогнозах, которые будут использоваться, например, в страховании.

Упреждающими подходами к сохранению конфиденциальности являются деидентификация, анонимизация или псевдоанонимизация медицинских данных. Деидентификация предотвращает привязку личных идентификаторов к информации. Анонимизация персональных данных является подкатегорией деидентификации, при которой удаляются как прямые, так и косвенные персональные идентификаторы, используются технические меры предосторожности для обеспечения нулевого риска повторной идентификации, тогда как деидентифицированные данные могут быть повторно идентифицированы с помощью ключа. Псевдоанонимизация определяется как обработка персональных данных таким образом, что данные больше не могут быть отнесены к конкретному субъекту без использования дополнительной информации при условии, что такая дополнительная информация хранится отдельно. Использование этих методов могло бы обеспечить конфиденциальность и стимулировать обмен данными, но не всегда возможно.

Даже при наличии регулирования в области прав человека очевидно, что требуется более четкое определение того, как права соотносятся и применяются к ИИ, необходимы новые нормы и судебная практика для рассмотрения взаимодействия ИИ и прав человека.

Например, в мае 2017 г. Google объявила о стратегическом партнерстве с Чикагским медицинским университетом (США). Целью партнерства была разработка новых инструментов машинного обучения для прогнозирования медицинских событий, таких как внеплановая госпитализация. Чтобы реализовать эту цель, университет поделился с Google сотнями тысяч обезличенных записей пациентов. Один из пациентов университета, Мэтт Динерштейн, в июне 2019 г. подал коллективный иск против университета и Google от имени всех пациентов, чьи записи были раскрыты [Shachar et al., 2019]. Медицинские записи пациентов, предоставленные Google, «были деидентифицированы, за исключением того, что сохранялись даты медицинского обслуживания». Набор данных также включал медицинские заметки в произвольном виде. Динерштейн поставил вопрос о недостаточной анонимности записей, что представляло угрозу