Разберись в ИИ и нейросетях: как они работают, где помогают и где ошибаются - Анастасия Зарубина

С одной, но очень существенной разницей. ИИ будет словно двоечник на уроке математики, который пишет формулу (a+b)2 = a2 + 2ab + b2 не потому, что понимает, как получается это равенство, а потому что так писал учитель на уроке и сейчас именно за такие символы рядом друг с другом ему поставят оценку выше. Либо ребенок, который не умеет читать, но все же складывает из кубиков слова. Он не понимает значения символов, но отлично помнит, как их ставили рядом друг с другом старшие, и теперь повторяет.

Например, на фразу «Мороз и солнце…» ИИ с вероятностью 99 % ответит «день чудесный», потому что видел такую последовательность тысячи раз (рис. 2.6). Далее мы рассмотрим подробнее, из каких именно «кубиков» строит смыслы ИИ.

Рис. 2.6. ИИ тоже знает золотую классику

Он может быть вашим лучшим другом, способным выслушать и поддержать, или коллегой, одновременно выполняющим указания и дающим вам новые знания. Он поможет вам в любой сфере, будь то реклама, программирование, дизайн или даже научная деятельность. Далее мы рассмотрим более подробно применение ИИ в разных сферах и поэкспериментируем с его возможностями.

Чтобы использовать максимум потенциала ИИ, необходимо лишь научиться правильно строить запросы к нему. Язык ИИ отличается от человеческого, а промпт-инжиниринг даже слегка напоминает программирование, но с использованием не сложных структур и функций, а привычного нам языка. Мы далее изучим его основы и узнаем «формулу идеального запроса», по которой напишем короткое задание для ИИ максимально понятным для него языком.

Однако, используя ИИ, обязательно соблюдайте осторожность и перепроверяйте факты, которые он вам дает. Составить график выполнения работ для него не проблема, а вот на вопрос о проценте налогового вычета или поиске номера юридической статьи он может выдать как верную информацию, так и совсем не актуальные или несуществующие данные (рис. 2.7).

Рис. 2.7. Статьи 123.4 в УК РФ не существует

Итак, мы разобрались, что искусственный интеллект не обладает разумом в человеческом понимании. Конечно, при построении модели используются «нейроны», которые связаны между собой, однако это не является полноценным мозгом, обладающим способностью мыслить. ИИ – многослойная математическая модель, которая не умеет думать и сама по себе не обладает никакими знаниями, а лишь очень хорошо предсказывает следующее слово или выполняет поиск в интернете и цитирует источники. Можно сказать, что это невероятно сложный калькулятор, который при каждом новом запросе вычисляет ответ, а не хранит все данные мира в некоей «базе знаний». Давайте посмотрим, как устроен этот «мозг» изнутри.

2.1. Сквозь призму из цифр

Для начала еще раз заметим, что ИИ не видит букв и слов, а также не понимает смысл в привычном для нас значении этого слова. Он – математическая модель и умеет работать исключительно с цифрами.

Когда вы вводите запрос, ИИ разбирает его на составные части – токены. Для человека далеко не всегда будет понятен смысл каждой отдельной части, ведь в зависимости от модели и метода токенизации – то есть способа разбора текста на составные части – токен может быть словом, слогом, частью слова, символом, знаком препинания и так далее (рис. 2.8). Единица, обрабатываемая языковой моделью, совершенно необязательно будет совпадать с лингвистической единицей (а часто и вовсе не будет).

Рис. 2.8. С разделением на слова нам все понятно, а что дальше происходит – какая-то «иишная» грамота

Далее производится векторизация полученных токенов. Этот процесс еще называют эмбеддингом (от англ. embedding – «встраивание»). Каждому токену присваивается длинный и сложный числовой вектор, определяющий положение этого токена (рис. 2.9).

Рис. 2.9. Примерно так выглядит процесс эмбеддинга в общем представлении

Все мы помним систему координат из школьного курса математики. Каждой точке на этой плоскости соответствует две координаты – по оси X и по оси Y, а если мы соединим начало с этой точкой, то получим вектор, координаты которого будут такими же, как у точки.

Теперь представим, что таких осей, подобных X и Y, у нас очень много, сотни или даже тысячи, и по каждой из них определяется координата. Теперь получается, что каждому вектору соответствует длинный ряд цифр, определяющий его положение максимально точно.

Вернемся к нашим токенам. Для удобства восприятия представим, что нам повезло и разделение произошло по границам слов. Каждое для ИИ – это вектор, имеющий определенное положение в пространстве смыслов. Чем ближе слова по смыслу, тем ближе их векторы расположены друг к другу, или, если говорить не о визуальном представлении (рис. 2.10), тем меньшее значение получится при вычитании этих векторов. ИИ не умеет понимать как человек, но сравнивать цифры у него получается отлично.

Рис. 2.10. Если бы в смысловом пространстве было лишь две оси…

ПРИМЕР

«король» – «мужчина» + «женщина» = «королева»

[0.5,0.8,0.1] – [0.1,0.3,0.5] + [–0.1,0.3,0.6] = [0.3,0.8,0.2]

До 2017 года модели векторизовали текст, «читая» каждый токен по порядку, словно человек, отчего могло быть упущено большое количество параметров, ведь зачастую, дойдя до конца предложения, ИИ «забывал», что было в его начале.

Сейчас при построении векторов используется архитектура «Трансформер» (Transformer), с помощью которой анализируется не только сам токен, но и вся последовательность, в которой он находится, тем самым определяя контекст.

Сейчас ИИ хорошо «понимает» даже сарказм или скрытый подтекст, не говоря уже о метафоричности и проведении аналогий. Анализируя траектории, он строит геометрическое пространство смыслов запроса и ориентируется в нем. Этот инструмент способен справляться даже с лингвистическими «ловушками»!

Рассмотрим на классическом примере. Возьмем предложение:

The animal didn’t cross the street because it was too tired

(«Животное не перебежало шоссе, потому что слишком устало»)

Модель, умеющая обрабатывать лишь отдельные токены, не сможет объяснить его смысл, ведь то, что it («оно») относится к животному, а не к шоссе, мы