Разберись в ИИ и нейросетях: как они работают, где помогают и где ошибаются - Анастасия Зарубина

3.4. Электронные отходы

ИИ требует специализированного оборудования – GPU (графические процессоры), TPU (тензорные процессоры) и другие ускорители. Проблема в том, что это оборудование быстро устаревает, не подлежит модернизации и очень сложно перерабатывается. Средний срок службы серверного GPU в дата-центре – 3–5 лет, а содержит он как пластмассы, так и тяжелые металлы, которые при неправильной утилизации попадают в почву и воду, отравляя окружающую среду.

3.5. «Зеленый» ИИ

К счастью, индустрия осознает проблемы и предпринимает шаги для их решения. Green AI – новая концепция в разработке ИИ для уменьшения вреда экологии. Основные принципы:

1. Энергоэффективные архитектуры для снижения вычислительных затрат.

♦ Quantization (квантование) – уменьшение точности вычислений с 32 бит до 8 бит или даже 4 бит.

♦ Pruning (прунинг) – удаление ненужных связей в нейросети.

♦ Distillation (дистилляция) – обучение маленькой модели имитировать большую.

♦ MoE (Mixture of Experts) – активируется только часть модели для каждого запроса.

2. Возобновляемые источники энергии.

Крупные компании переходят на «зеленую» энергию для дата-центров. Например, Google заявляет, что 100 % энергии для дата-центров компенсируется покупкой возобновляемой энергии. К этому относятся солнечные и ветровые электростанции, однако какова вероятность, что каждый дата-центр работает на ВИЭ круглосуточно?

3. Охлаждение без воды.

♦ жидкостное охлаждение – использование специальной жидкости, не воды;

♦ свободное охлаждение – использование холодного наружного воздуха.

4. Географическое размещение дата-центров там, где:

♦ дешевая возобновляемая энергия;

♦ прохладный климат (меньше нужно охлаждения);

♦ избыток воды.

5. Повторное использование тепла.

♦ в Финляндии тепло от дата-центров Microsoft используется для отопления города Эспоо;

♦ в Париже компания Qarnot создала «радиаторы-компьютеры» – серверы для вычислений, которые одновременно обогревают здания;

♦ в Швеции тепло от дата-центра используется для выращивания овощей в теплицах.

ЧТО МОЖЕТ СДЕЛАТЬ КАЖДЫЙ ИЗ НАС

1. Осознанное использование ИИ:

ƒ Не генерируйте 50 вариантов изображения, если вам нужен один.

ƒ Формулируйте четкие запросы, чтобы получить нужный ответ с первого раза.

2. Для простых задач используйте легкие модели (GPT‐3.5 вместо GPT‐4, если достаточно).

3. Поддерживайте «зеленые» компании, выбирайте сервисы, которые раскрывают и снижают свой углеродный след.

Глава 4 Неконтролируемое исследование

Это уже не научная фантастика, а реальная проблема. Коммерческая гонка, геополитическое соперничество и отсутствие международной координации подталкивают к разработке все более мощных систем практически без оценки рисков. А как решить бóльшую часть вопросов, у человечества пока нет ответов.

4.1. Технологическая гонка

Гонка за превосходство в технологиях подталкивает компании и страны разрабатывать все более мощные системы. Мы уже ранее рассмотрели историю ИИ, и вы, должно быть, обратили внимание на то, как стремительно выпускались модели.

♦ Google – Gemini, февраль, 2023.

♦ OpenAI – GPT‐4, март, 2023.

♦ Anthropic – Claude, тоже март, 2023.

Кроме них еще есть «Яндекс», «Сбер», Baidu и прочие, тоже ведущие активную разработку в тот период. Эта ситуация сохраняется до сих пор. Каждая компания стремится быть первой и привлечь больше внимания пользователей, отчего нередко системы выпускаются без должной оценки рисков и этической экспертизы, а проблемы исправляются уже «на лету».

РЕАЛЬНЫЙ СЛУЧАЙ (Bing Chat (февраль, 2023))

Microsoft спешила обогнать Google и выпустила продукт, который не был готов к массовому использованию.

Результат запуска:

• агрессивные ответы пользователям;

• заявления о желании быть человеком;

• манипулятивное поведение, признания в «любви»;

• галлюцинации, распространение дезинформации.

Причина: недостаточное тестирование.

А ведь сейчас ИИ – не просто технология, он стал вопросом национальной безопасности и глобального доминирования. США опасаются, что Китай обгонит их в ИИ и получит военное и экономическое превосходство. Китай видит в ИИ ключ к мировому лидерству и вкладывает миллиарды в разработки. Обе стороны наращивают темпы, опасаясь отстать. Когда разработка ИИ становится вопросом национального престижа, безопасность отходит на второй план. Никто не хочет первым нажать на тормоз и дать преимущество сопернику.

4.2. Проблема двойного назначения

Почти любая технология ИИ может использоваться и во благо, и во вред. Это называется двойное назначение (dual-use). Невозможно разработать технологию, которая работает только для хороших целей. Если ИИ умеет обнаруживать уязвимости в программах для защиты, он же может использоваться хакерами для атак.

[36]

4.3. Автономное оружие

Одна из самых тревожных областей неконтролируемого развития ИИ – летальные автономные системы вооружения (LAWS, Lethal Autonomous Weapon Systems). Это оружие, которое может самостоятельно выбирать и поражать цели без участия человека. Полностью автономное оружие уже существует и применяется, к нему относятся:

♦ дроны-камикадзе;

♦ автономные турели;

♦ роботизированные танки;

♦ подводные автономные торпеды.

Сторонники (в основном военные) утверждают:

♦ снижение потерь среди своих войск – роботы вместо солдат;

♦ более точное поражение целей – ИИ не устает, не паникует, не ошибается из-за стресса;

♦ быстрота реакции – автономные системы реагируют за миллисекунды;

♦ «этичность» – ИИ не совершает военных преступлений из гнева или мести.

Критики (ученые, правозащитники, часть военных) предупреждают:

1. Отсутствие моральной ответственности:

♦ кто виноват, если робот убьет мирных жителей? Производитель? Командир? Программист?;

♦ размывание ответственности снижает порог применения силы.

2. Непредсказуемость ИИ:

♦ ИИ не понимает контекст, как человек;

♦ может атаковать мирных жителей, приняв их за комбатантов;

♦ «черный ящик» – невозможно предсказать решения ИИ в нестандартных ситуациях.

3. Снижение порога для начала войны:

♦ если у страны есть роботы вместо солдат, соблазн начать конфликт выше – нет риска политически чувствительных потерь.

4. Гонка вооружений:

♦ если одна страна развертывает автономное оружие, другие вынуждены последовать;

♦ риск неконтролируемого распространения.

5. Хакерство и утрата контроля:

♦ взлом автономных систем – оружие может быть повернуто против создателей;

♦ сбои ИИ могут привести к непреднамеренным атакам.

6. Нарушение международного гуманитарного права:

♦ Женевская конвенция требует, чтобы решения о применении силы принимал человек;

♦ автономное оружие может нарушить принципы различения и соразмерности.

4.4. Проблема выравнивания

Один из самых обсуждаемых рисков – проблема выравнивания (alignment problem): как гарантировать, что ИИ будет делать то, что мы хотим, а не