Главное про AI - Вадим Жартун

её ответах не должны появляться никогда — ни в каком тоне? Это проверка на токсичность, дискриминацию, обещания от имени бренда. Третье: кто первый увидит деградацию качества — дашборд скорости или живой клиент? Если первый — дашборд, проблему увидите рано. Если первый — клиент, увидите поздно и через жалобу. Четвёртое: если завтра нужно отключить систему за час, как вы это сделаете? Есть ли kill switch — аварийный выключатель, кнопка, которая останавливает AI-сервис за минуты, а не за дни? Пятое: кто из живых людей подписывает каждое публичное действие системы, и что именно он проверяет?

Пять признаков того, что AI-система уже деградирует, но никто не заметил. Первый: метрики скорости растут, метрики качества падают. Если «время ответа» улучшается, а «правильность ответа» стагнирует — система оптимизирована на скорость, а не на качество. Второй: появляются оговорки и caveat-фразы, которых раньше не было. Модель стала чаще использовать неуверенные формулировки. Нужно проверить, на каких именно вопросах. Третий: в логах появляются запросы, которые система не обработала. Для типового чат-бота 1% провалов — норма, 10% уже сигнал сдвига распределения. Четвёртый: жалобы клиентов учащаются, а дашборд стабилен. Вы смотрите не на ту метрику. Жалобы — опережающий индикатор. Пятый: появляются нестандартные кейсы, которых раньше не было. Клиент задаёт вопрос, которого не было в обучающих данных, и модель выдумывает. Это граница применимости, и её нужно явно обозначить.

Чек-лист «куда ставить человеческую проверку» собирает эти принципы в операционную форму. Черновик письма клиенту: AI пишет черновик, человек читает и подписывает перед отправкой. Критерий остановки — любое обещание, ссылка на политику, цифра. Юридическая ссылка или прецедент: AI предлагает, юрист-человек проверяет в базе. Критерий — любая цитата, любая ссылка на дело. Ответ поддержки первой линии: AI отвечает, человек видит превью и при сложном сценарии AI уступает. Критерий — негатив клиента, запрос на возврат, регуляторный вопрос. Резюме встречи: AI делает сводку, человек правит перед рассылкой. Критерий — любое обещание, названное в тексте, любой срок, любая цифра. Контент для публикации от бренда: AI генерирует, редактор-человек правит. Критерий — любая цитата, любое именованное лицо, любая претензия на факт. Рекомендация модели по принятию решения: AI рекомендует, человек принимает. Критерий — решение, которое влияет на деньги, здоровье, репутацию.

ВОССТАНОВЛЕНИЕ ПОСЛЕ AI-ПРОВАЛА: ПЛАН ДЕЙСТВИЙ

В 2025 году Edelman Trust Barometer (ежегодный глобальный опрос о доверии к институтам) опубликовал цифру, которая объясняет, почему первые 48 часов после AI-провала — это операционная метрика, а не «репутационный пиар». Около двух третей респондентов в 28 странах говорят, что готовы простить компанию за честную ошибку. Условие одно: компания признала ошибку, объяснила, что произошло, и показала, что изменится. 65% респондентов говорят, что отсутствие быстрого признания — самостоятельный повод для потери доверия. И эти 65% пересекаются с двумя третями «готовых простить» — это одни и те же люди.

Air Canada признала вину на втором заседании, через 4 месяца после первого ответа чат-бота. Microsoft Tay — через 48 часов в официальном блоге. McDonald’s — через 3 недели после вирусных роликов. Klarna — через 14 месяцев.

Скорость признания — не «репутационный пиар», а операционная метрика. И команды, которые готовят её заранее, восстанавливаются в разы быстрее.

Пять стадий восстановления после AI-провала выстроены по логике «золотого часа» и пост-операционной реабилитации.

Стадия 0 — сдерживание, 0–4 часа: менеджер останавливает систему, фиксирует масштаб пострадавших (кто именно и в какой момент увидел ошибку). Клиенту в первые 4 часа говорится: «мы увидели проблему, остановили её распространение, через час вернёмся с фактами». Команде: «никто не продолжает работу как обычно, пока не закрыт сдерживающий шаг». Артефакт — список пострадавших, время остановки.

Стадия 1 — диагноз, 4–24 часа: менеджер собирает выборку инцидентов, ищет общий паттерн. Клиенту: «вот что мы нашли, вот что ещё проверяем». Команде: «вот гипотеза причины, вот что опровергнет или подтвердит». Артефакт — краткий диагноз, что сломалось и где.

Стадия 2 — извинение без оговорок, 24–48 часа: менеджер признаёт вину, описывает компенсацию. Клиенту прямо: «это наш сбой, мы компенсируем так-то». Команде: «вот текст, с которым выйдем к клиенту, проверьте тон и факты». Артефакт — публичное или адресное извинение.

Стадия 3 — регрессия риска, 1–4 недели: добавляется двойная проверка, пересматриваются промпты, вводится human-in-the-loop (контроль человеком каждого шага AI). Клиенту: «вот что мы изменили, чтобы это не повторилось». Команде: «вот новая политика, вот как мы её будем соблюдать». Артефакт — внутренний документ с изменениями.

Стадия 4 — рефлексия и публичный урок, 1–3 месяца: менеджер пишет разбор полёта, делится с индустрией, если это этично. Клиенту: «вот что мы поняли о себе, вот что вы можете взять себе». Команде: «вот наш процесс работы с AI после этого кейса». Артефакт — разбор полёта, обновлённый AI-чеклист.

AI-кризис устроен по той же схеме, что и инфаркт. Когда у человека случается инфаркт, первые 4 часа — «золотой час». В это время правильные действия спасают жизнь, а неправильные или бездействие ведут к необратимым последствиям. После инфаркта пациент не «возвращается к работе как обычно» — он проходит реабилитацию, меняет образ жизни, принимает лекарства.

AI-кризис работает по той же логике. Первые 4 часа — золотой час для сдерживания. Следующие 4 недели — реабилитация, в которой вы добавляете проверки и меняете процесс. Следующие 3 месяца — новая жизнь, в которой AI работает по новым правилам. Возврат к «как раньше» — это отказ лечиться.

Klarna вернулась к гибридной модели — и это выздоровление. Компания признала, что AI-монополия на сложных кейсах не работает, и встроила человека обратно в контур.

Пять фраз, которые работают в AI-кризисе, и шесть, которые не работают, различаются по одному признаку: первые признают, вторые перекладывают. «Это наш сбой, мы его признаём» — коротко, без оговорок. «Вот что мы сделали за 24 часа, чтобы остановить распространение» — действие важнее слов. «Вот что мы изменили, чтобы это не повторилось» — конкретные изменения, а не обещания. «Мы компенсируем так-то» — конкретная компенсация, а не «извините за неудобства». «Вот постмортем через 30 дней» — публичное обещание учиться публично.

Шесть фраз, которые не работают. «AI-система допустила ошибку» — перекладывание на инструмент. «Это единичный случай» — преуменьшение. «Мы разбираемся» — откладывание. «Это результат предвзятого ввода данных» — техническое обоснование, которое клиент не слышит. «Мы не можем комментировать текущее расследование» — закрытая поза. «Наши пользователи должны были прочитать дисклеймер» — снятие ответственности с бренда.

Разница между ними — в позиции. Первые говорят «мы владеем».