Разберись в ИИ и нейросетях: как они работают, где помогают и где ошибаются - Анастасия Зарубина

8. ВСЕГДА консультируйтесь со специалистом в критически важных сферах (медицина, юриспруденция, финансы).

9. Учитесь формулировать мысли самостоятельно, не просите это сделать ИИ.

Если ИИ используют ваши дети:

1. Контролируйте взаимодействие детей с ИИ.

2. Объясняйте, что это не живое существо.

3. Не позволяйте ИИ заменять друзей и общение.

КРАСНЫЕ ФЛАГИ

ƒ ИИ стал основным собеседником.

ƒ Избегаю звонков/встреч, предпочитая чат с ИИ.

ƒ Делюсь с ИИ тем, чего не говорю близким.

ƒ Чувствую «привязанность» к ИИ.

ƒ Считаю его «другом».

Отметили 2+ пункта? Стоит обратиться к психологу.

https://arxiv.org/abs/2506.08872.

1.2. Дискриминация

Вторая ловушка ИИ для человеческого социума заключается в методе формирования его «мнения». ИИ обучается на исторических данных, в которых неизбежно есть давно отжившие стереотипы, да и в современных, созданных людьми, они то и дело встречаются. Далее его дообучают, опять же, люди.

ИИ становится «зеркалом», отражающим мнение достаточно большой группы людей. Если на каком-то этапе обучения появляются деструктивные убеждения (нацизм, расизм, сексизм, эйджизм и так далее), то ИИ будет учитывать эти аспекты при генерации ответов, в итоге не помогая обществу найти иной взгляд на эти вопросы, а, наоборот, культивируя как неприятные многим, так и явно опасные идеи. Они могут быть выданы и в обычном диалоге с ИИ, и вплетены в решение по спорному юридическому вопросу, и использоваться как дополнительный параметр при приеме на работу, а, затесавшись в системы рекомендаций (например, видеохостинга), могут и вовсе создавать «кроличьи норы» в экстремистский контент.

РЕАЛЬНЫЙ СЛУЧАЙ 1

Система найма Amazon отклоняла резюме женщин.

Причина: обучена на данных за 10 лет, где большинство сотрудников – мужчины.

Результат: Систему закрыли в 2018 году.

РЕАЛЬНЫЙ СЛУЧАЙ 2

COMPAS (США), Система оценки риска рецидива.

Причина: Для чернокожих предсказывала рецидив в два раза чаще, чем для белых, при равных условиях.

Результат: Многочисленные судебные иски.

Скорректировать эту проблему сейчас практически невозможно из-за специфики обучения и работы нейросетевых моделей. Исправление одного отклонения зачастую порождает новые. Например, когда Google DeepMind пытались откорректировать поведение своей модели, добавив разнообразие, она начала выдавать афроамериканских викингов и подобные исторически ложные артефакты.

Что же делать?

1. Знайте свои права, требуйте пересмотра решения человеком.

2. Требуйте прозрачности, спрашивайте, не использовался ли ИИ.

3. Сообщайте о проблемах:

♦ в компанию напрямую;

♦ регуляторам (Роскомнадзор, ФАС в РФ);

♦ медиа и правозащитным организациям.

1.3. «Черный ящик»

Для ИИ как никогда актуальна проблема «черного ящика» (Black Box Problem). Мы уже рассмотрели, как именно происходит генерация ответов, но понимание механизма появления отдельных слов не дает ясности в понимании того смысла, который может оказаться заложен в получающийся текст. Даже сами разработчики не всегда могут предсказать, что выдаст ИИ в том или ином случае, или объяснить, почему у него получился определенный результат. Они видят лишь входные и выходные данные, причем при одинаковых входных данных выходные могут в корне отличаться, а отследить каждый шаг из-за технической сложности нейросетей не представляется возможным (рис. 4.3).

Возможность модели к глубокому анализу находится в прямой зависимости от ее сложности (рис. 4.4). А там, где сложно, там непонятно и непрозрачно. Нынешнее положение ИИ – своеобразный компромисс. Кто же будет нести ответственность, если все настолько туманно? Это все еще предмет напряженных дискуссий.

Рис. 4.3. Схема принятия решений ИИ

Рис. 4.4. Зависимость объяснимости от сложности модели

Что же делать?

1. В критических областях требуйте прозрачности:

♦ медицина: требуйте объяснения от врача, не только от ИИ;

♦ кредит: спрашивайте конкретные причины отказа;

♦ найм: требуйте человеческого пересмотра решения ИИ.

2. Не доверяйте слепо, даже если ИИ уверен.

3. Знайте свои права, вы всегда можете обжаловать решения, принятые ИИ, в законодательном порядке.

Глава 2 Юридические угрозы и персональные данные

Хорошо, если мы будем использовать ИИ внимательно: не относиться к нему как к неоспоримому авторитету и перепроверять выданную им информацию, теперь-то мы будем в безопасности? Не совсем.

ИИ – не просто технология вроде калькулятора или персонального компьютера. Он умеет манипулировать информацией и взаимодействует с чувствительными данными, тем самым занимая отдельную нишу в правовом поле. Давайте разберемся, с чем можно столкнуться.

2.1. Чувствительные данные

ИИ ежесекундно работает с огромным количеством данных – фотографии, тексты, музыкальные произведения и т. д. миллионов пользователей. Встречается среди этой информации и персональная, как личная, так и корпоративная. Она появляется там, когда пользователи забывают, что чат-бот – не просто общественное пространство, он еще и использует ваши данные для обучения (обычно так происходит на бесплатном тарифе). И если, например, медицинские симптомы без явной персонификации не скомпрометируют вас, то паспортные данные или коммерческая тайна, попав не в те руки, могут здорово испортить жизнь.

РЕАЛЬНЫЙ СЛУЧАЙ

В 2023 году инженеры Samsung загрузили в ChatGPT:

– исходный код внутренних систем;

– записи внутренних совещаний;

– конфиденциальные данные.

Результат: данные попали в обучающую выборку OpenAI.

Решение: Samsung запретила ChatGPT сотрудникам.

Как пример утечки персональной информации в пределах одного чат-бота можно привести случаи с генерацией изображений, когда вместо вашей отредактированной фотографии появляется совершенно чужая картинка. Это не просто галлюцинации ИИ, это сбой с потерей контекста при генерации ответа, но суть одна: в его обучающую выборку попало чье-то фото, которое он и выдал вам. Точно так же туда может попасть и ваше.

ЧЕК-ЛИСТ ПРИ РАБОТЕ С ЧУВСТВИТЕЛЬНЫМИ ДАННЫМИ

ƒ Проверил, сохраняет ли сервис историю?

ƒ Читал «Политику конфиденциальности»?

ƒ Знаю, используются ли мои данные для обучения?

ƒ Для работы использую enterprise-версию?

ƒ Отключил сохранение истории (где возможно)?

А еще базы данных могут взломать заинтересованные в этом люди. ИИ не хранит общую базу, но при включении соответствующей настройки позволяет