Рождение разума: Как интеллект зарождается в людях и нейросетях - Джей Макклелланд

из таких алгоритмов – обратное распространение ошибки. Почему мы уделяем ему особое внимание? Потому что он оказался невероятно эффективным для обучения на данных и стал фундаментом современного ИИ. Обратное распространение часто объясняют через устрашающие математические формулы, но основные идеи удивительно понятны, изящны и даже красивы. Наша задача – дать интуитивное понимание ключевых принципов, не углубляясь в технические детали.

Поиск оптимальных весов через анализ ошибок

Главный принцип обучения с коррекцией ошибок – минимизация ошибки. Чтобы понять механизм, вернемся к нашей Винченце. Представим, что ее нейронная сеть (нереалистично) проста: четыре входных элемента и один выходной (рисунок 9.2). Два входных элемента определяют сорт винограда – каберне (красный) или вионье (белый). Два других отвечают за вкусовые ноты – сливовые или абрикосовые. Возьмем бутылку каберне с ярко выраженным сливовым вкусом. Элементы «Каберне» и «Сливовый» (первый и третий на рисунке 9.2) получат максимальный сигнал – единицу, а элементы «Вионье» и «Абрикосовый» (второй и четвертый) – ноль. Входной паттерн запишется как [1, 0, 1, 0]. У другого вина – вионье без выраженных сливовых или абрикосовых нот – паттерн будет [0, 1, 0, 0]. Каберне с умеренно сливовым вкусом (без абрикосовых нот) даст паттерн [1, 0, 0,5, 0], где 0,5 означает умеренную выраженность сливового вкуса.

Рисунок 9.2. Простая нейронная сеть Винченцы: четыре входных элемента и один выходной для оценки цены вина. Винченца не может изменить входные сигналы, создаваемые каждым вином, – она может менять только веса связей между входными и выходным элементами

Четыре входных элемента соединены с элементом «Цена» связями с весами w1, w2, w3 и w4. Чтобы получить оценку цены, нужно умножить сигнал каждого входа на соответствующий вес и сложить результаты. Рассмотрим наше каберне с умеренным сливовым вкусом и паттерном [1, 0, 0,5, 0]. Пусть веса связей (w1, w2, w3 и w4) равны 9, 5, 14 и 12 соответственно. Тогда активация элемента «Цена» составит: 1×9 + 0×5 + 0,5×14 + 0×12 = $16. Если реальная цена вина $23, ошибка Винченцы составит $7.

Как уменьшить эту ошибку? На прогноз сети влияют два фактора: активация входных элементов и веса связей между входными и выходным элементами. Входные сигналы определяются характеристиками вина. Мы не можем их изменить (нельзя превратить каберне в другой сорт) – входные данные неизменны. Единственное, что поддается корректировке, – это веса связей.

Вопрос в том, как сети найти оптимальные веса связей.

Можно предположить, что достаточно увеличить каждый вес на фиксированную величину. Да, это уменьшит ошибку при следующей оценке того же вина.

Но можно действовать умнее. Заметим: одни входные элементы активны, другие – нет. Логичнее корректировать веса именно активных элементов. Эта простая идея лежит в основе алгоритма коррекции ошибок под названием дельта-правило. Оно учитывает и ошибку (называемую дельтой) на принимающем элементе, и активацию передающего элемента. Корректировка веса равна произведению ошибки на принимающем элементе и активации передающего элемента, умноженному на небольшой коэффициент – скажем, 0,05.

Чем выше активация передающего элемента, тем сильнее корректировка веса. Почему?

Потому что изменение связей от слабо активных элементов почти не повлияет на выходной сигнал. В крайнем случае, когда активация элемента равна нулю, любое изменение его веса бесполезно (ноль, умноженный на любое число, остается нулем). А нам нужно изменить прогноз – приблизить его к реальной цене. Причем сделать это эффективно. Корректировка связей от высокоактивных элементов обеспечивает максимальную отдачу.

Вернемся к нашему каберне с умеренным сливовым вкусом и паттерном [1, 0, 0,5, 0]. Сеть Винченцы оценила его в $16 при реальной цене $23 – ошибка составила $7. Нужно изменить связи, внесшие основной вклад в эту ошибку. Какие именно? Элементы 2 и 4 имели нулевую активацию и не участвовали в формировании оценки – менять их веса бессмысленно, это не уменьшит ошибку. Разумно корректировать связи от элементов, изменение которых максимально повлияет на результат. В нашем примере это элементы 1 и 3. Причем, поскольку активация элемента 1 вдвое выше, чем элемента 3, его вес изменится вдвое сильнее. Такой подход делает обучение эффективным: максимальные корректировки получают связи с наибольшим влиянием на ошибку. Итак, мы корректируем каждый вес на величину, пропорциональную произведению ошибки на выходе и активации на входе, умноженному на малый коэффициент.

Почему именно на малый коэффициент? Этот коэффициент называется скоростью обучения. При слишком высокой скорости обучения коррекция может «перестараться» и увеличить ошибку вместо ее уменьшения.

Описанный процесс уменьшает ошибку для одной конкретной бутылки. Но какой в этом смысл? Нам нужна сеть, способная точно оценивать любое вино.

Чтобы применить правило обучения с коррекцией ошибок, нам понадобится большая коллекция бутылок вина. Для каждой из них мы повторяем описанный процесс, многократно проходя через всю коллекцию до тех пор, пока суммарная ошибка по всем бутылкам не перестанет уменьшаться. Этот процесс называется обучением, и он формирует веса связей, которые минимизируют общую ошибку на обучающей выборке. Важную роль здесь играет малая скорость обучения: изменения, полезные для одного примера, часто вредят точности на других примерах, поэтому мы сохраняем корректировки весов небольшими.

После нескольких проходов по всей выборке мы можем «заморозить» связи – то есть прекратить настройку весов – и считать сеть обученной. Если обучающая выборка достаточно широка, такая сеть будет давать разумные оценки цен даже для тех бутылок, которых не было в обучающем наборе. В этом и заключается суть того, как дельта-правило учится делать полезные прогнозы.

А как быть с большими сетями? – спросите вы. У нашей сети всего четыре входных элемента. Что будет, если их станет пять? Или пять миллионов?

Алгоритм дельта-правила не меняется при любом количестве входных элементов. Для первой бутылки мы вычисляем ошибку – разницу между реальным и предсказанным значением – и умножаем ее на активацию передающего элемента. Затем корректируем вес связи на величину, равную этому произведению, умноженному на скорость обучения. После этого переходим к следующей бутылке (или следующему примеру из обучающего набора), повторяем процесс – и так для каждой новой бутылки. Если постепенно снижать скорость обучения, этот процесс гарантированно сведет ошибку к минимуму за достаточное число проходов по всей выборке.

«А если увеличить число выходных элементов? Пока у нас один выход. Что, если их будет несколько?» – спросите вы. Такая ситуация возникает, когда мы хотим предсказывать не только цену, но и другие характеристики вина, например содержание алкоголя.

Это тоже просто. При наличии нескольких выходных элементов мы независимо применяем тот же подход к весам, ведущим к каждому из них.

«Хорошо. Но что, если понадобится скрытый слой?» Вот здесь стоит задуматься.

Важность скрытых элементов

До сих пор все рассмотренные в этой главе сети состояли