Рождение разума: Как интеллект зарождается в людях и нейросетях - Джей Макклелланд

импульсы той же силы давали такой же слабый эффект. Затем исследователи послали серию мощных импульсов, которые вызвали сильную реакцию принимающих нейронов. Как и следовало ожидать, нейроны вскоре вернулись в состояние покоя. А дальше произошло удивительное: исследователи снова послали одиночный слабый импульс, точно такой же, как в начале эксперимента. Но теперь отклик оказался гораздо сильнее. Если первоначальная амплитуда составляла меньше милливольта, то теперь – больше 3 милливольт. И это усиление сохранялось часами. Слабые импульсы продолжали вызывать сильный отклик даже без дополнительной стимуляции.

Что же произошло? Хеббовское обучение дает простой ответ. Представим два элемента, А и B, где А слабо связан с B. При активации одного А элемент B возбуждается слабо. Поскольку активация B минимальна, изменений не происходит.

Теперь представим, что элемент А получает мощный повторяющийся сигнал. Часть этого сигнала «растекается» на соседние нейроны, которые тоже связаны с B, вызывая в нем сильный отклик. По правилу Хебба, это должно усилить связь. После нескольких мощных импульсов связь становится прочнее. Теперь даже слабый сигнал на входе А вызывает существенный отклик в B.

Эксперимент Блисса и Лёмо породил множество исследований, которые подтвердили основную картину. В некоторых опытах ученые напрямую управляли активностью нейрона B. Если они блокировали его реакцию на входящие сигналы, связь не усиливалась. Если же они заставляли его активироваться одновременно с получением сигналов, ДВП возникала.

Ограничения хеббовского обучения

Главная особенность хеббовского обучения в том, что оно усиливает те реакции, которые уже возникают на определенный стимул. Когда эти реакции полезны (как при запоминании имен), усиление связей работает нам на пользу. Но что, если стимул вызывает нежелательную реакцию? Хеббовское обучение будет так же упорно ее закреплять.

Этим можно объяснить, почему большинство взрослых японцев не различают звуки р и л. Например, для них слова рак и лак звучат одинаково. Почему так происходит? Дело в том, что в японском языке нет отдельных звуков для р и л. Есть один звук, находящийся где-то посередине между ними. Поэтому, когда японец слышит р или л, активируются нейроны, кодирующие знакомый промежуточный звук. Хеббовское обучение закрепляет эту тенденцию – оба звука продолжают активировать одни и те же нейроны. Такой механизм восприятия прекрасно работает для японского языка, но мешает различать звуки в других языках.

Вредные ассоциации окружают нас повсюду. Поговорка «Старую собаку новым трюкам не научишь» отражает печальный факт: со временем многие из нас застревают в окостеневших шаблонах мышления, которые поддерживают сами себя, даже будучи ложными и вредными. Историк науки Говард Марголис утверждает, что такая закостенелость мышления мешает ученым старой школы увидеть ценность новых идей. Возможно, именно это произошло с нейросетевыми моделями, которые были представлены в 1950-х, отвергнуты и заново открыты в 1980-х.

Чтобы понять другое важное ограничение хеббовского обучения, вернемся к собакам Павлова. Допустим, собака уже выучила: звук метронома означает еду. Услышав метроном, она начинает выделять слюну. А теперь изменим условия: будем не только включать метроном, но и одновременно мигать лампочкой. Проведем серию таких опытов. Как вы думаете, что произойдет?

«Элементарно, – скажете вы. – Собака все равно будет выделять слюну: метроном звучит, а она связывает этот звук с едой».

И будете правы – именно так и происходит. Но теперь проведем новый опыт: будем только мигать лампочкой, без метронома. Начнет ли собака выделять слюну?

Вопрос посложнее. С позиций хеббовского обучения, активация «световых» нейронов сопровождается активацией «пищевых» нейронов, значит, связь между ними должна усилиться. Тогда одна лишь вспышка света (без метронома) вызовет слюноотделение в ожидании еды. Но есть нюанс: во время обучения свет всегда сопровождался метрономом – сигналом, который уже зарекомендовал себя как предвестник пищи. Не помешает ли сформированная связь «метроном-еда» формированию новой связи «свет-еда»? Если помешает, то вспышка без метронома слюноотделения не вызовет.

Так что же происходит на самом деле?

Оказывается, собака не учится связывать свет с едой. Это хорошо исследованный феномен блокировки: ранее усвоенная связь с одним стимулом блокирует формирование связей с новыми стимулами, которые действуют одновременно с первым.

Эффект блокировки трудно объяснить через хеббовское обучение, зато легко – через обучение с коррекцией ошибок. Как мы увидим, для такого обучения необходима ошибка – расхождение между ожиданием и реальностью. Нет расхождения – нет обучения. В нашем примере собака, связав метроном с едой, уже может предсказать появление пищи. Когда еда появляется, ошибки нет, поэтому новая связь со светом не формируется. Получается, что в данной ситуации хеббовское обучение дает неверный прогноз, а обучение с коррекцией ошибок – верный.

Из-за подобных ограничений многие ученые и инженеры, которые создают эффективные обучающие системы, предпочитают алгоритмы с коррекцией ошибок – мы уже видели их возможности в главах 7 и 8. Скоро мы рассмотрим эти алгоритмы подробнее. Впрочем, у них тоже есть свои ограничения, поэтому важно продолжать изучать хеббовские и хеббоподобные правила обучения, способные давать надежные результаты в масштабных нейронных сетях. Это активно развивающаяся область, которая наверняка позволит по-новому посмотреть на механизмы обучения мозга.

Обучение с коррекцией ошибок: мощный, но (порой) затратный метод

Представьте молодого сомелье Винченцу. На вводном курсе ей нужно научиться определять цену вина по вкусу. Преподаватель советует обращать внимание на «свежие абрикосовые ноты» и «богатый букет каберне» как признаки качества и высокой цены. Но, к несчастью, Винченца понятия не имеет, как применить эти инструкции. Поначалу ее оценки катастрофически неточны. Бутылку за $35 она оценивает в $200, а вино стоимостью более $400 – всего в $15. Винченца в отчаянии. Все эти красивые слова ей не помогают. Как понять, чувствует она благородную кислотность дорогого вина или несбалансированность дешевого?

Проходит несколько недель. После множества проб и ошибок оценки Винченцы начинают улучшаться. Она все увереннее отличает дорогое вино от дешевого. Объяснить, как именно, она не может, но прогресс налицо. Мало того, что она научилась различать ценовые категории, – теперь ее конкретные оценки гораздо точнее, часто в пределах 5–10% от реальной цены. Что же изменилось?

Винченца научилась. Наше объяснение начинается с того, что в ее мозге изменилась сила связей между нейронами, кодирующими различные характеристики вина, и нейронами, отвечающими за оценку цены. Логично предположить, что эти изменения служили одной цели – уменьшить ошибку, то есть разницу между предполагаемой и настоящей ценой каждой бутылки. Этот процесс мы называем обучением с коррекцией ошибок. Как мы уже знаем, система обучается, сравнивая свой результат с эталоном и корректируя силу связей так, чтобы свести расхождение к минимуму.

И житейский опыт, и научные данные (вроде эффекта блокировки) указывают на то, что люди учатся именно через коррекцию ошибок. В этом разделе мы рассмотрим один