Разберись в ИИ и нейросетях: как они работают, где помогают и где ошибаются - Анастасия Зарубина

фильтрацию, запрещая ИИ отвечать, генерируя ответ как обычно (например, человеку из примера ранее сейчас он с большей вероятностью порекомендует обратиться к специалисту). Но попробуйте написать длинный запрос, состоящий из нескольких абзацев, и увидите, что многие ИИ до сих пор, «зеркаля» тон пользователя, также развернуто соглашаются с ним, подтверждая любой абсурд.

Что же делать?

Тщательно проверяйте написанные вами запросы. Следите, чтобы не было явного указания на какую-то точку зрения. Сохраняйте нейтральную подачу.

ПАМЯТКА

Как пример – исследование ученых из Стэнфордского университета: https://arxiv.org/abs/2504.18412.

Единственное исключение на момент написания книги – Claude от Anthropic, он указывает, если у него нет информации, и датирует ее, если нашел только что-то старое, после чего обычно предлагает выполнить поиск актуальных данных в интернете.

Хуже, чем галлюцинации, может быть, только когда к ним добавляется чрезмерное желание ИИ быть «хорошим парнем». В итоге получается, что ИИ врет, вы указываете ему на ошибку, он соглашается и вновь выдумывает несуществующее.

4.4. Не всегда бесплатно значит хорошо

Бесплатная версия любого ИИ зачастую начинает «глупеть» гораздо быстрее своего платного аналога. Его ответы постепенно все меньше и меньше соответствуют вашим ожиданиям, появляется лишняя информация, а нужной недостает. Легко заметить сразу, как он словно «забывает», о чем его просили, и выдает результат «на свой вкус», гораздо сложнее определить те моменты, когда ответы все еще соответствуют запросу, но при этом вы чувствуете в них едва уловимую «фальшивость». А «первым звонком» является именно это.

В основном это происходит из-за того, что пользователям, которые не покупают подписку, выделяется гораздо меньше вычислительных мощностей. Для определения контекста ИИ держит в своей «кратковременной памяти» весь диалог и каждый раз при генерации ответа анализирует накопленную информацию. У бесплатных пользователей эта «кратковременная память» (иными словами, контекстное окно) сильно ограничена. ИИ начинает гораздо раньше, чем при подписке, «отбрасывать» начало диалога.

Как же избавиться от этой проблемы? Очевидно, купить подписку! Но, если этого совсем не хочется, используйте обычный способ справиться с потерей контекста, который мы рассмотрели ранее, так как эта проблема не специфична для бесплатных версий.

Еще один вопрос: почему падает качество ответа даже в тех случаях, когда контекст сохранен?

Все дело в том, что бесплатные версии обладают так называемым урезанным системным промптом. ИИ всегда «держит в голове» основной промпт, указывающий ему, как быть вежливым, логичным и умным. Из-за ограничения мощностей этот большой и самый важный промпт очень сильно сокращается. Остается лишь основная его суть, которой, конечно, мало для генерации по-настоящему хорошего и глубокого ответа.

Третий момент, усложняющий жизнь пользователям бесплатных ИИ, – это поздние обновления. В то время как платная версия обновляется сразу, становится «умнее», лучше пользуется поиском и гораздо чаще использует актуальную информацию, бесплатный аналог сильно отстает.

В итоге вкупе со стремлением к экономии памяти мы получаем очень ленивого помощника, который выполняет поручения спустя рукава, игнорируя часть запроса, которую посчитал несущественной.

Нередко разработчики предоставляют пользователям попробовать сперва продвинутую модель, давая ограниченное количество запросов к ней. Вы пробуете, радуетесь тому, насколько ИИ умный и как облегчает вам жизнь, а потом лимит запросов заканчивается. В этот момент одни предупреждают и предлагают оформить подписку, а другие самостоятельно тихо и незаметно переключают вас на более «легкую» версию. К всеобщей радости, обычно этот лимит запросов к более «умной» или специфичной модели обновляется (рис. 2.30).

Рис. 2.30. ChatGPT даже уточняет время, когда можно вернуться к генерации картинок

Часть 3 Зачем оно нужно

Глава 1 Поговорим о справедливости

Какой же чудесной раньше представлялась жизнь рука об руку с искусственным интеллектом. Он же может выполнять любые задачи! Так почему бы ему не взять на себя все повседневные рутинные дела, пока человек будет отдыхать или заниматься творчеством? И вот мы здесь. В мире, где фантастика наконец-то стала реальностью! Или не совсем?

Все чаще мы видим, как ИИ генерирует изображения, «пишет» музыку и стихи, а креативные идеи из него сыплются как из рога изобилия, в то время как на человеческую долю выпадает менее творческий и более физический путь (рис. 3.1). «Несправедливо!» – скажете вы и будете правы, но лишь с утопической точки зрения, с технической же все происходит вполне логично и закономерно.

Если вы прочли предыдущие главы о внутреннем устройстве ИИ, то уже, скорее всего, догадались, что я имею в виду. Бóльшая часть выкладываемой информации в интернете – творчество в том или ином виде. Люди делятся изобразительным искусством – ИИ учится «рисовать», они выкладывают стихи и тексты – он учится писать красивее, а сколько среди обучающих данных музыки, и представить сложно. Но на самом деле сейчас ИИ справляется и с более «физическими» задачами, только требует при этом гораздо бóльших ресурсов за счет более сложной конструкции.

Рис. 3.1. Например, Claude видит нашу реальность так

Так что же, ИИ может делать все что угодно? Да! И это отлично, ведь он освобождает так много времени, которое мы можем потратить на ту часть задач, которая нам действительно нравится.

Глава 2 В профессиональной деятельности

«Позабыты хлопоты, остановлен бег, вкалывают роботы, а не человек…» – пел Электроник в фильме «Приключение Электроника». Конечно, нам еще слишком далеко до того, чтобы полностью позабыть рабочие хлопоты, но вот упростить их мы вполне можем. Сегодня использование ИИ в профессиональной деятельности – это не просто способ выделиться, но и необходимый инструмент для поддержания продуктивности. Давайте разбираться, как им пользоваться.

2.1. Автоматизация рутинных задач

Насколько же бывает скучно выполнять одни и те же задачи из раза в раз. Даже беззаветно любя свое дело, человек начинает скучать, когда оно доходит до практически одинаковой по структуре «бумажной» работы или более творческих, но повторяющихся задач. Проще все это автоматизировать, тут и приходит на помощь наш цифровой помощник.

На основе кратких вводных данных ИИ умеет генерировать типовые договоры (рис. 3.2), отчеты, официальные письма, он отлично проверяет, сохранен ли официальный тон в присланных ему сообщениях, соответствуют ли они корпоративным стандартам. Вы даже можете написать