Рождение разума: Как интеллект зарождается в людях и нейросетях - Джей Макклелланд

стимулами, ассоциированными с употреблением наркотиков, и тенденцией к действию. Активация таких стимулов порождает мощную тенденцию независимо от искренних обещаний, намерений и целей человека.

Возникает вопрос: как нам иногда все же удается преодолеть влияние сильных стимулов? Ведь люди, которые стремятся сократить потребление сахара, порой успешно отказываются от десерта. То, как подобные нисходящие цели влияют на действия, мы рассмотрим в главе 10.

В главе 10 мы также представим основанное на активации объяснение того, почему одни и те же стимулы могут в одних ситуациях вызывать сильное стремление к объекту, а в других – не оказывать никакого влияния. Например, человек, несколько дней блуждавший по пустыне, готов отдать все сбережения за глоток воды, но, утолив жажду, не заплатит за воду ни копейки.

И в этих случаях, как вы уже могли догадаться, мы предложим объяснения через активацию в рамках нашей модели нейронной сети.

Так почему же мы поступаем именно так?

В этой главе мы противопоставили два взгляда на движущие силы человеческого поведения. Согласно первому, главная цель любого действия – максимизация ценности, а испытываемый нами аффект – удовольствие или страдание – определяет наши поступки и выбор. Мы делаем то, что приносит удовольствие, и избегаем неприятного. Если мы отклоняемся от этой схемы, то, предположительно, потому, что наша система определения ценности несовершенна и уязвима перед помехами.

Мы представили альтернативный взгляд: наше поведение определяет не ценность и не аффект, а активация в нейронных сетях. Эта активация направляется связями между элементами. В одних случаях эти связи способствуют активациям, соответствующим действиям, которые действительно повышают ценность; в других – порождают влияния, не имеющие отношения к максимизации ценности или даже противоречащие ей. К таким влияниям относятся посторонние ассоциации, случайности, готовность к действию, настроение и нарушения саморегуляции. Преимущество активационного подхода в том, что он не рассматривает отклонения от максимизации ценности как случайные помехи – одна и та же система объясняет как случаи максимизации ценности, так и отклонения от нее.

Еще одно преимущество активационного подхода к поведению заключается в том, что он применим к примитивным нейронным системам – тем, которые не обладают сложной нейронной архитектурой для переживания симпатии, антипатии и осознанных чувств удовольствия и боли, но способны принимать контекстно зависимые решения о приближении к источникам питания и избегании хищников. Простейшие животные вроде морского слизня Aplysia californica – крупной водной улитки – и крошечного червя Caenorhabditis elegans часто становятся объектами изучения нейробиологов, которые описывают поведение этих животных через активацию в нейронных сетях, порождающих реакции приближения и избегания. При этом исследователи не прибегают к понятиям симпатии и антипатии или осознанного переживания удовольствия и боли у подобных организмов.

Эти наблюдения наводят на мысль, что осознанное переживание удовольствия и боли возможно только при достаточной сложности мозга. Хотя о субъективных переживаниях ранних форм жизни мы можем судить лишь косвенно, представляется вероятным, что их простые нервные системы не обеспечивали той полноты сознательного опыта, которой обладаем мы и другие высокоразвитые животные. И действительно, нейробиологи, изучающие мозговые системы мотивированного поведения у разных представителей животного царства, предполагают, что системы, обеспечивающие субъективное переживание удовольствия, возникли относительно поздно в ходе эволюции.

Предложенная нами система не опирается на осознанные чувства удовольствия и боли. Эта глава показывает, как далеко можно продвинуться в понимании поведения без обращения к ним. И все же нельзя отрицать, что осознанные чувства существуют и играют важную роль в нашей жизни. Мы полагаем, что те же активации, которые порождают наши действия, порождают и осознанные чувства. Мы признаем, что активации, соответствующие этим чувствам, взаимодействуют с предшествующими активациями в системе и влияют на них – и все они вместе определяют наши поступки.

Часть III

Знание и обучение – все это в связях

До этого момента мы, как создатели нейронных сетей, сами назначали определенным элементам конкретные функции (например, один элемент отвечал за Coca-Cola, другой – за сладость). Но мозг не может рассчитывать на внешнего проектировщика – он должен работать самостоятельно. В третьей части мы расскажем о нейронных сетях – как биологических, так и искусственных, – которые обучаются без участия разработчиков, распределяющих роли между нейронами.

В главе 7 мы исследуем, как люди учатся понимать смысл окружающих вещей. Увидев существо, плавающее в пруду, мы можем определить, что это рыба, и сделать выводы о ее свойствах, даже если она не похожа на других рыб, которых мы видели раньше. Как наш разум справляется с этой задачей? Изучая активность мозга человека, который смотрит, скажем, на рыбу, мы обнаруживаем, что нет отдельного нейрона, представляющего эту рыбу. Вместо этого мозг использует паттерны активации множества нейронов. Паттерн для одной рыбы похож на паттерн для другой рыбы, но отличается, например, от паттерна для дерева. Такие паттерны активации называются распределенными представлениями, и они играют ключевую роль в нашей способности осмыслять окружающий мир. В главе 7 мы увидим, как распределенные представления формируются в простых искусственных нейронных сетях, обучающихся по простому универсальному принципу, который мы называем обучением с коррекцией ошибок.

Мы также покажем, как эти сети позволяют смоделировать становление понимания мира в первые годы жизни и его распад при дегенеративных заболеваниях мозга.

Принцип обучения, рассматриваемый в главе 7, лежит в основе поразительных способностей больших языковых моделей (LLM, Large Language Model). В главе 8 мы обсудим, как LLM используют тот же принцип для приобретения неожиданных эмерджентных когнитивных способностей. Это позволит нам сравнить эмерджентные когнитивные способности машин с нашими собственными – увидеть их сходства и различия.

В главах 7 и 8 мы опираемся на мощный принцип обучения, не вдаваясь в механизмы его реализации в мозге или системах ИИ. Но поскольку наша конечная цель – механистическое понимание, глава 9 посвящена именно этому вопросу. Мы рассмотрим нейробиологические идеи и эксперименты, проливающие свет на то, как учится мозг, а также алгоритмы, применяемые в искусственных нейронных сетях, – включая те, что мы использовали для моделирования семантических когнитивных процессов человека в главе 7, и те, что работают в современных системах ИИ, в том числе LLM.

Глава 7

Как мы создаем (и теряем) смысл

Наш разум без труда понимает, что вода принимает форму сосуда, а сковорода – нет. Откуда берется такое знание?

Представить нейронную сеть с подобным знанием несложно. Достаточно создать сеть с одним элементом для воды, другим – для сковороды и третьим – для свойства «принимать форму». Элемент воды будет связан с элементом изменения формы, а элемент сковороды – нет.

Но есть одна загвоздка: мы, разработчики нейронной сети, использовали собственный интеллект для ее проектирования и собственные знания о мире для соединения