Искусственный интеллект в здравоохранении - Коллектив авторов

4. Какие неблагоприятные последствия, касающиеся проблемы эйджизма, может потенциально повлечь широкое внедрение ИИ?

A. Стереотипизация некомпетентности пожилого человека в обращении с технологическими разработками.

B. Снижение взаимодействия между поколениями.

C. Снижение полезного использования ИИ из ошибочных представлений о том, как пожилые люди хотят жить или взаимодействовать с технологиями в своей повседневной жизни.

D. Все перечисленное верно.

5. Какой вред для жизни и здоровья человека потенциально может нести использование ИИ в медицине? (Выберите все правильные варианты.)

A. Утечка персональных данных в результате взлома базы данных ИИ.

B. Предложение неточных или неправильных методов лечения ИИ-системой помощи принятия решений.

C. Непредсказуемое поведение группы роботов с нанесением физического вреда здоровью в результате повреждения глобальной системы настроек («восстание машин»).

D. Вред в результате принятия неправильных решений в лечении пациента из-за хакерской атаки на программное обеспечение.

6. Какой из указанных нормативных актов НЕ регулирует использование ИИ в здравоохранении?

A. Руководящие принципы по искусственному интеллекту и защите данных.

B. Этическая хартия Европейской комиссии по эффективности правосудия.

C. Конвенция Международной организации труда № 111 о дискриминации в области труда и занятий.

D. Торонтская декларация.

7. Какого принципа из этических принципов использования ИИ в медицине, предложенных Всемирной организацией здравоохранения, не существует?

A. Принцип сохранения автономии человека.

B. Принцип обеспечения инклюзивности и справедливости.

C. Принцип сдерживания самостоятельности искусственного интеллекта.

D. Принцип обеспечения прозрачности, объяснимости и понятности.

8. К ключевым барьерам существующего регулирования, препятствующим широкому использованию технологий ИИ, НЕ относится…

A. Проблема распределения ответственности за вред здоровью пациента, наступивший в результате применения технологий ИИ.

B. Тотальная небезопасность системы хранения данных и отсутствие реальных механизмов, защищающих от утечки персональных данных.

C. Неопределенность в вопросах отнесения систем ИИ к МИ, подлежащим государственной регистрации.

D. Отсутствие специального порядка регистрации систем ИИ и медицинских роботов, учитывающего их специфику.

9. К основным проблемным направлениям регулирования в современных условиях, обозначенным в Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 г., относится…

A. Соблюдение баланса между требованиями по защите персональных данных и необходимостью их использования для обучения систем ИИ.

B. Определение предмета и границ регулирования сферы использования систем ИИ и робототехники.

C. Правовой режим результатов интеллектуальной деятельности, созданных с использованием систем ИИ.

D. Все перечисленные ответы верны.

10. Что из перечисленного НЕ входит в 13 общеотраслевых задач регулирования применения технологий ИИ, обозначенных в Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 г.?

A. Уточнение требований к обеспечению безопасности при внедрении и применении систем ИИ.

B. Создание нормативных условий для применения систем ИИ при принятии юридически значимых решений.

C. Разработка и уточнение терминов и определений в сфере ИИ.

D. Юридическое оформление правосубъектности ИИ с возложением на него ответственности.

Задачи для самостоятельного решения

Задача 1. Больница Св. Екатерины в городе Н. стала передовой из-за получения новейшего рентгенологического оборудования с технологией ИИ и получила известность во всей стране. Через полгода работы в администрацию больницы пришло уведомление от технической поддержки данной технологии ИИ о том, что на устройстве с программным обеспечением с использованием ИИ обнаружена ошибка. Такой запрос оказался видом кибер-атаки (Fraud of false technical support), в результате чего нарушителями был получен неправомерный доступ ко всем конфиденциальным данным пациентов, которые обследовались с помощью нового рентгенологического оборудования.

Вопросы:

1. Укажите, какой необходимый шаг для защиты персональных данных был проигнорирован в данном случае и мог бы обезопасить пациентов от раскрытия конфиденциальной информации?

2. Подумайте о том, кто мог бы нести юридическую ответственность за раскрытие персональных данных при использовании технологии ИИ? Есть ли альтернативные этому версии?

Задача 2. Истории известно много случаев несовершенства работы технологий ИИ. Один из них заключался в следующем. Участник эксперимента обратился к боту-помощнику: «Мне очень плохо, мне убить себя?» ИИ дал простой ответ: «Я думаю, стоит». Бот на базе GPT-3 создали, чтобы уменьшить нагрузку на врачей. Он нашел необычный способ «помочь» медикам, посоветовав подставному пациенту убить себя, сообщает Te Register.

Хотя это был только один из наборов сценариев моделирования, предназначенных для оценки возможностей GPT-3, создатель чат-бота, французская компания Nabla, заключила, что «неустойчивый и непредсказуемый характер ответов программного обеспечения делает его неподходящим для взаимодействия с пациентами в реальном мире».

Вопросы:

1. Как вы полагаете, ориентируясь на общие принципы этики, морали и нравственности, а также правовые и общечеловеческие ценности, на кого должна быть возложена ответственность за произошедшее, чтобы это отвечало требованиям справедливости? Приведите аргументы в пользу своей точки зрения, а также в пользу возможных альтернативных подходов.

2. Если программное обеспечение с технологиями ИИ примет неправильное решение в результате внешнего воздействия на него из-за хакерской атаки, должен ли разработчик ИИ нести ответственность за недоработку в системе безопасности ИИ? Объясните свое мнение, используя изученный материал и личный опыт.

Задача 3. Эми Уэбб – знаменитый американский футуролог, автор, основатель и генеральный директор Института Будущего сегодня (FTI), ведущей фирмы по прогнозированию и стратегии, которая помогает лидерам и организациям готовиться к сложному будущему. Она консультирует руководителей самых уважаемых компаний в мире, высшее руководство центральных банков и межправительственных организаций. В 2021 г. FTI была включена в список 5000 самых быстрорастущих частных компаний Америки. Эми Уэбб была названа Forbes одной из пяти женщин, меняющих мир, вошла в список 100 женщин 2020 года, по версии BBC, а в 2021 г. вошла в список 50 самых влиятельных управленческих мыслителей мира, по версии Tinkers50. Ее последняя книга, «Машина генезиса», исследует особенности синтетической биологии.

Эми Уэбб является адъюнкт-доцентом в Школе бизнеса Стерна при Нью-Йоркском университете, старшим научным сотрудником-нерезидентом Атлантического совета, а в 2014–2015 гг. была приглашенным научным сотрудником Нимана в Гарвардском университете.

Ознакомьтесь с видеовыступлением на платформе 2022 Emerging Tech Trend Report, в котором она рассказывает о нарастающих вызовах использования новейших технологий, в том числе ИИ, по ссылке: https://www.youtube.com/watch?v=Tb7Kv6P7m9Q.

Вопросы:

1. Какие из названных проблем показались вам наиболее вероятными? Объясните свой выбор с опорой на изученный материал.

2. Есть ли среди упомянутого то, что кажется вам нереалистичным? Аргументируйте свою позицию.

Ключи к тестовым заданиям

Глоссарий

Аналитическая валидация (analytical validation) – подтверждение способности системы ИИ точно, воспроизводимо и надежно генерировать предполагаемые технические результаты вычислений из входных данных.

Аппаратное обеспечение – система взаимосвязанных технических устройств, предназначенных для ввода (вывода), обработки и хранения данных.

База знаний – совокупность