Удивительные истории об искусственном интеллекте - Александр Александрович Прокопович

БУДУЩЕЕ НАСТАЛО ВЧЕРА: ЖИЗНЬ С ИИ

За счет особых технологий обучаемая программа учится понимать, какие слова с большей вероятностью могут быть использованы вместе, а какие – с меньшей. В обязательном порядке прорабатываются и инструменты самопроверки, когда ИИ делает несколько самозапросов, а потом сравнивает их между собой – и выдает в виде ответа тот, который выглядит наиболее корректным и вероятным.

Сам процесс обучения может занимать часы и дни, задействовать множество ресурсов – гигантские суперкомпьютеры с рядами мощнейших видеокарт, – а результат при этом может оказаться совершенно неудовлетворительным. После чего ученые почешут в затылке и переделают все дата-сеты и алгоритмы обучения.

Боги или демоны?

Создавая помощника на основе четко заданных правил, мы получаем предсказуемые и однозначные результаты. Если же в создании участвует машинное обучение с гигантскими выборками данных и возможностью самостоятельно выбирать ответ из нескольких вариантов – помощник может выдавать творческие ответы, для предсказания которых нужен скорее шаман, чем инженер.

Такие ответы – заведомо неправильные – называются «галлюцинациями». Вот вам не очень корректный, но очень наглядный пример: представьте, что вы спрашиваете модель, сколько будет два плюс два, а она отвечает – «три». Это забавно – но только до тех пор, пока ценой ошибки не становится сбой на опасном производстве, погрешность расчета топлива для самолета или дозировки сильнодействующего препарата.

А ведь хочется использовать этих «богов» для всевозможных, любых задач! Ведь они дешевле, имеют лучший запас знаний и вроде бы более обучаемы, чем люди.

Казалось бы, осталось только придумать, как минимизировать риск галлюцинаций, – и мы сразу же получим в свое полное и безраздельное пользование всемогущих богов, которые не будут рисовать лишние пальцы на картинках, научатся строго держать контекст между началом и концом текста, а также никогда не ошибутся, делая важный расчет.

И действительно, есть способы. Например, нанять тысячи людей, которые будут дообучать большие языковые модели после машинного обучения – задавать вопросы, смотреть ответы, а если ответы не нравятся, то писать программистам: «вот здесь ваша модель ошиблась, исправьте».

Или использовать программы-цензоры, которые не позволят в ответ на вопрос «как снизить количество выхлопных газов» предложить логичный и простой, но недопустимый ответ «уничтожить человечество».

Или ввести ряд дополнительных самопроверок; или ограничить выборку данных, на которых будет работать модель.

Все эти способы подразумевают введение ограничений. Рамки, рамки, рамки – они же и риски, что модель станет глупее и не сможет решать поставленные задачи.

Сегодняшние нейросети, которые видятся нам богами, умеют создавать чарующие картины и тексты, заставляющие задуматься, – это все еще демоны. Они более могущественны, чем люди. Они прекрасны и завораживают нас. Многие обращаются к ним за силой и могуществом, и некоторые даже получают запрошенное, не платя слишком дорого.

Но доверять им в полной мере – нельзя. По крайней мере, пока что.

БУДУЩЕЕ НАСТАЛО ВЧЕРА: ЖИЗНЬ С ИИ

Жрецы новых богов

Может ли сегодняшний ИИ заменить художников, писателей, программистов? Ответ – «да, отчасти». Это означает, что сегодня человек, умеющий пользоваться искусственным интеллектом (писать запросы-промпты, сравнивать разные модели), может получать результат не хуже, чем средний художник, писатель или программист.

Как пример – человек, не имеющий художественного образования, но подкованный технически, может создавать картинки, серии картинок или даже мультфильмы.

То есть вместо нескольких лет, которых требует профильное образование – в придачу к некоторому таланту, – эти люди тратят всего пару дней на обучение и еще пару недель на набивание шишек, а потом рисуют на уровне неплохих специалистов.

Уже сегодня иллюстрации и обложки для книг часто создаются именно так. А завтра так будет сделана бо́льшая часть мультфильмов, рекламных роликов и презентаций. Почему? Потому что низкий порог входа: не надо долго учиться, чтобы «сделать красиво».

Однако. Шансов создать гениальные шедевры таким способом пока что немного. Поэтому уровень самых ярких гениев человечества на данный момент по-прежнему недостижим.

Кроме того, чтобы создать большой фильм, нужно писать длинную и сложную цепочку запросов. А для создания романа необходимо придумать систему рамок и ограничений и генерировать фрагмент за фрагментом, стараясь заставить нейросеть держать контекст. При определенной сноровке это вполне возможно – и, основываясь на этом, люди сегодня рисуют мультфильмы и комиксы, пишут книги и научные работы. Все это – за счет того, что жрецы понимают и принимают цену и ограничения сотрудничества с новыми богами.

Ну, или демонами.

Гляжусь в тебя как в зеркало

С июля 2024 года по середину июня 2025 года продлилась забастовка актеров озвучки видеоигр гильдии актеров США (SAG-AFTRA). Бастующие требовали защиты от ИИ – так как уже на тот момент модели синтеза (это когда ты «скармливаешь» ИИ текст, а он в ответ выдает аудиозапись, начитанную нужным голосом) стали настолько совершенными, что индустрия игр могла создавать на сравнительно небольшом пуле оплаченных аудиозаписей модель голоса актера и затем годами использовать ее, не платя ни копейки.

Актеры озвучки победили, после чего появилась система лицензирования со сроками и ограничениями, а также понятная схема оплаты для владельца голоса.

А теперь подумайте: ничего не напоминает? Использование чужого голоса, чужих фото, видео, чужого стиля изложения – это же классическая история про доппельгангера, двойника из легенд!

Подобными свойствами обладали кельтские сиды, а представители некоторых видов нечисти крали людских детей, подкладывая вместо них свое отродье, внешне похожее на человека. Такого рода подмена – один из мощнейших страхов человечества (ведь нечисть – это отражение коллективного бессознательного). Потеря уникальности собственных признаков – голоса, внешности, стиля речи и письма – приводит к закономерному кризису идентификации и самоидентификации.

Сегодня, получив голосовое сообщение от начальника или родных, мы должны в первую очередь прогнать его через «внутренний антиспуфинг» – не мошенники ли это? – и только после этого принимать информацию. Запросив отчет о работе от подчиненного или читая странную статью на любимом ресурсе, мы пытаемся понять для себя – не поделка ли это нейросети?

БУДУЩЕЕ НАСТАЛО ВЧЕРА: ЖИЗНЬ С ИИ

Уже есть задокументированные случаи, когда модели результативно общаются между собой. Они могут давать друг другу многоуровневые задания, проверять себя и друг друга и в итоге выдавать результат, который можно использовать на практике – как резюме, как статьи, как собрание гипотез или что-то еще.

И кажется, что с текущим вектором развития пора кричать «караул!» и бежать в безлюдные места, туда, куда не доберется всемогущий Скайнет, когда настанет момент взрывать устаревший человеческий мир.

Но все не так страшно. Ведь нейросети вовсе не злые.

Концепция нечисти

На мой взгляд, современные «искины» – не боги и