Главное про AI - Вадим Жартун

первый — AI ваш инструмент, вы спокойны. Если второй, проверяющий перед отправкой, — AI ваш ассистент, вы в рамке. Если третий — клиент, — вы в зоне риска, но ещё можете объясниться. Если четвёртый — суд, — вы в зоне ответственности, и это уже не про ускорение, а про подпись.

В 2016 году Мадлен Клер Элиш (Madeleine Clare Elish) ввела термин moral crumple zone (моральная зона смятия), где человек принимает на себя вину за ошибку системы. Метафора пришла из автомобилестроения: там есть зона, сминающаяся ради водителя. В AI всё наоборот — человек сминается ради системы. Когда AI ошибается, люди, которые с ним работали, воспринимаются аудиторией как более виноватые, даже если у них было мало контроля над решением.

Юрист по делу Mata v. Avianca (подробно — в главе 12) заплатил штраф и потерял репутацию, а не OpenAI. Менеджер по найму, использовавший AI-скрининг и пропустивший дискриминацию, отвечает перед судом, а не вендор. Оператор колл-центра, следовавший AI-скрипту и не распознавший жалобу клиента, отвечает за это сам.

Вы оказываетесь в моральной зоне смятия каждый раз, когда над вами есть «умная система», а клиент, суд, регулятор или общество решают, что виноваты вы, а не она. Этот риск не теоретический, это базовая структурная проблема современного AI в офисе.

Совесть в этой ситуации — понять, что вы в этой зоне, и не принимать на себя роль «подушки безопасности для системы», пока у вас нет ни полномочий, ни инструментов эту систему остановить.

Чтобы не оказаться подушкой безопасности для чужой системы, полезно ещё до ошибки провести собственную границу. Для себя я закрыл три категории задач, которые не отдаю модели ни при каких условиях.

Первая — там, где цена ошибки измеряется чужой жизнью или здоровьем: медицинский диагноз, школьная оценка, кредитный скоринг, приговор суда.

Вторая — там, где за решением стоит моя репутация и доверие конкретного человека: первое письмо клиенту, в котором я представляюсь как партнёр, соболезнование коллеге, выговор сотруднику.

Третья — там, где вы сами не определились с целями и просите AI их сформулировать за вас: «напиши мне, что я думаю по поводу увольнения», «придумай мне позицию для переговоров», «реши за меня». Это не ускорение. Это уход от собственного суждения, и AI здесь не помогает, а создаёт иллюзию помощи.

Всё остальное — рабочая зона, где AI ускоряет, а я отвечаю. Ключевой навык — заметить момент, когда вы поддались соблазну «у меня нет ответа, пусть AI придумает». В этот момент вы не ускоряетесь. Вы сдаётесь. И чем чаще это происходит, тем больше у AI власти над вашей совестью.

Ниже — таблица из девяти типов задач с ценой ошибки и моей готовностью доверить AI. Это не «объективная классификация AI-возможностей», а моя рабочая рамка: граница доверия зависит от того, чьими глазами на меня смотрят через полгода.

КАТЕГОРИИ ЗАДАЧ И ЛИЧНАЯ ГРАНИЦА ДОВЕРИЯ

Граница доверия к AI сдвигается не громко, а тихо. В понедельник вы не готовы отдать AI-юристу составление апелляции — страшно, непроверенно. В среду вы отдали ему черновик, поправили, отправили. В пятницу вы уже отдаёте финальный вариант с минимальной правкой. В понедельник следующей недели вы не помните, почему вам было страшно. Это не прогресс, это нормализация.

По данным Microsoft 2024 Work Trend Index, семьдесят восемь процентов пользователей AI-инструментов приносят свою работу, в которой есть AI, без редактирования. Это тревожная цифра. Большинство людей, использующих AI, не считают нужным проверить то, что они подписали.

Защита одна: регулярно оглядываться. Раз в квартал брать задачу, которую раньше делали через AI, и делать вручную. Если не можете — у вас проблема. Совесть — это мышца, которая атрофируется, если её не качать.

ВОПРОСЫ «ДО ОТПРАВКИ» ДЛЯ ОФИСНОГО РАБОТНИКА

– Кто последний проверил факты в этом выходе? Если «AI проверил» или «никто» — это не ответ. Должен быть конкретный человек, который прочитал, проверил имена, цифры, ссылки.

– Есть ли в выходе именованные лица, цитаты, прецеденты, законы? Если да — каждое проверено в первоисточнике. Если нет — выход можно отправлять после обычной вычитки.

– Есть ли в выходе обещания от имени бренда? Если да — каждое проверено с актуальной политикой. AI-выдуманный тариф — это Moffatt v. Air Canada (см. главу 2) в миниатюре.

– Если этот AI-выход увидит ваш непосредственный руководитель через 3 месяца, что он там увидит и что подумает об этом? Вопрос перестаёт быть абстрактным «узнает клиент» и становится рабочим «увидит начальник».

– Если этот выход увидит суд, что я скажу? Юридический стандарт — разумная забота, а не «AI же сказал».

– Соответствует ли это моим профессиональным стандартам? AP (Associated Press), ABA (American Bar Association), Getty (фотосток), UNESCO (Организация Объединённых Наций по вопросам образования, науки и культуры) — примеры. В вашей профессии своего стандарта может не быть, но это не освобождает от ответственности.

– Готов ли я подписать это своим именем без оговорок? Если нет — выход не готов.

Эти семь вопросов не отнимают много времени — тридцать секунд на проверку перед отправкой. Зато они возвращают вас в позицию человека, который принимает решение, а не просто нажимает кнопку «отправить» на чужом выходе.

AI И ПРИВАТНОСТЬ: МАРШРУТ ВАШИХ ДАННЫХ

Когда вы открываете ChatGPT или Claude и вставляете в окно черновик письма клиенту, вы отправляете сервису не «текст», а пакет данных, у которого есть несколько слоёв.

Первый слой — само содержание: имена, суммы, условия сделки, медицинские показания, исходный код, проектная документация. Второй — метаданные: время, IP-адрес, тип устройства, язык интерфейса, иногда геолокация. Третий — производные: тематическое «понимание» модели о вас, ваш стиль, ваша индустрия, ваши повторяющиеся темы. Четвёртый — чужой контент, который вы отправляете «для саммари»: чужое письмо, чужой отчёт, чужой договор, на которые у вас нет согласия автора на обработку.

На стороне сервиса всё это может использоваться для обучения (если вы не отключили), для улучшения продуктов, для расследования инцидентов безопасности и, в случае судебного запроса, для раскрытия третьим лицам. Это не теория и не «риски на бумаге». Это операционные инциденты, измеренные в реальных утечках.

По данным Bloomberg (март 2023) и Forbes, инженеры Samsung отправили в ChatGPT исходный код полупроводников и протоколы совещаний — три случая за двадцать дней. Samsung после этого запретил генеративный AI для сотрудников, и запрет действует до сих пор. Итальянский