Рождение разума: Как интеллект зарождается в людях и нейросетях - Джей Макклелланд

конкретной ситуации она случайно даст верный ответ, она не обязательно сумеет применить то же логическое правило в другом контексте. Нейронные сети не знают законов логики и не оперируют символами, которые позволили бы универсально применять эти законы к новым ситуациям. По той же причине они беспомощны в математике. Перед семинаром я задал большой языковой модели такой вопрос:

Какова вероятность, что среди 13 человек хотя бы двое родились в одном месяце?

Ответ очевиден: единица (или 100%). В году 12 месяцев, значит, как минимум у двоих из 13 месяц рождения совпадет. Но языковые модели думают иначе. Вот какой ответ я получил:

В году 12 месяцев, поэтому вероятность того, что двое НЕ родились в одном месяце, равна 11/12. Если дни рождения не совпадают (что не обязательно так, но приемлемое допущение), то вероятность того, что все 13 человек родились в разных месяцах, составляет (11/12)^12. Следовательно, вероятность хотя бы одного совпадения равна 1 – (11/12)^12 ≈ 0,648, или примерно 64,8%.

Звучит убедительно, правда? Но это совершенная ерунда. Математика требует настоящего понимания, а не простого распознавания закономерностей. Нейронные сети не способны выйти за рамки поиска паттернов. Обучите систему ИИ складывать однозначные числа – и она может споткнуться на примере «10 + 1», потому что не встречала чисел больше девяти. Не говоря уже о том, что нейронные сети не способны создавать новую математику. Не стоит ждать, что нейросеть докажет какую-нибудь нерешенную математическую гипотезу.

И последнее о мышлении и логике. Допустим, вы обучаете нейронную сеть новой информации с помощью алгоритма обратного распространения ошибки, и эта информация сохраняется в весах связей. Вы можете добиться успеха, но сеть окажется неспособной к элементарным логическим выводам. Научите ее, что Билл старше Салли, – она не догадается, что Салли младше Билла.

Второй мой аргумент касается мотивации. Каждый день я испытываю десятки желаний. Могу захотеть пить и начну искать воду. Могу проголодаться и начну искать еду. Могу желать секса, музыки, общения, независимости, развлечений, победы любимой команды – да сотню разных вещей. Я чего-то хочу. И когда желание достаточно сильно, мои попытки его удовлетворить наполняются энергией. Они становятся мотивированными. Совершенно непонятно, как нейронная сеть может испытывать мотивацию. Видимо, здесь нужно что-то еще. Неудивительно, что системы ИИ начисто лишены каких-либо мотивов.

Но я не раб своих желаний. Я способен им сопротивляться. Например, стремление быть здоровым заставляет меня отказаться от аппетитного печенья в пользу яблока. И тут возникает проблема для нейросетевой теории: если в нейронной сети есть только активация, кáк она может выбрать вариант с меньшим уровнем активации? Яблоко наверняка вызывает у меня меньшую активацию, чем печенье. А если это не так, то почему нужно столько усилий, чтобы устоять перед печеньем?

Третий и последний пункт – сознание. Осознанные мысли управляют моим поведением. Вчера вечером, например, я понимал, что утром мне нужно время на репетицию выступления. Поэтому поставил будильник на полчаса раньше обычного. Это была четкая мысль, которую я полностью осознавал. Она оформилась в слова и привела к конкретному действию. Откуда берется такая осознанность? У LLM ее точно нет. Они всего лишь предсказывают наиболее вероятные следующие слова. Мы, люди, способны понимать и явно осознавать свое понимание. Может ли нейронная сеть объяснить происхождение такого осознания?

Но есть и более глубокое возражение, связанное с сознанием. В повседневной жизни мы видим насыщенную синеву полотен Сальвадора Дали, ощущаем характерный кислый вкус лимона, чувствуем жгучую боль от прикосновения к горячей плите. Все эти переживания – это нечто. Нечто особенное, отличное от других переживаний. Боль, к примеру, ощущается совершенно иначе, чем удовольствие. Откуда берутся эти различия в ощущениях? Способна ли искусственная нейронная сеть что-либо переживать? Да и может ли биологическая нейронная сеть испытывать переживания, если свести ее работу к активациям и связям? Как движение ионов через мембрану – а именно оно порождает потенциалы действия – может привести к переживанию, скажем, запаха нового автомобиля?

Никак не может. Я убежден: нам необходимо нечто большее, чем активации и связи нейронных сетей.

В оставшейся части главы мы покажем, что субъективное ощущение мысли не обязательно должно отражать процессы, которые эту мысль порождают. Когда мы рассуждаем последовательно и логично, нам кажется, будто мы следуем определенным правилам. Когда мы мотивированы, нам кажется, что наше внутреннее «я» наполняет нас энергией и направляет наши действия. Когда мы осознаем свои переживания, это осознание представляется нам чем-то совершенно отдельным от паттернов активации в мозге.

Однако мы приведем доказательства того, что эти ощущения обманчивы. Последовательное и логическое мышление, мотивированное поведение и целеполагание, даже многие аспекты сознания могут возникать из простых взаимодействий и процессов в нейронных сетях. Наши способности к дедукции, наши мотивационные состояния, наше восприятие окружающего мира – все это не требует постулировать, что в разуме содержится нечто дополнительное, выходящее за рамки нейросетевой концепции.

Могут ли последовательное мышление и логика возникнуть в нейронной сети?

Когда мы рассуждаем последовательно и логично, мы словно опираемся на систему правил. Возьмем, например, силлогизм – классическую форму логического вывода из трех частей: (1) большая посылка – общее утверждение о свойстве, присущем всем членам категории (например, Все люди смертны); (2) малая посылка – утверждение о принадлежности конкретного объекта к данной категории (например, Сократ – человек); и (3) заключение – утверждение о наличии у объекта соответствующего свойства (например, Следовательно, Сократ смертен).

Силлогизм – это пример правила, которое применимо к любым утверждениям определенной структуры, независимо от конкретных категорий, свойств или объектов. Владея таким правилом, можно делать выводы соответствующего типа. Если сообщить человеку, знающему это правило, что все ликеты обладают свойством флис и что Раксует – это ликет, он заключит: Раксует обладает свойством флис. И это несмотря на то, что ему совершенно неизвестно, что означают слова Раксует, ликет или флис. Многие когнитивисты и философы утверждают, что наша способность мыслить, рассуждать и понимать язык опирается именно на такие абстрактные правила, как силлогизм, а в мозге существуют специализированные системы для работы с ними.

Такая точка зрения противоречит базовым принципам нейросетевой концепции, которая объясняет процессы разума через активации и связи, формируемые опытом, а не постулирует наличие в мозге специальных систем для логических операций с абстрактными правилами. Проблема для нейросетевого подхода в том, что логические принципы вроде силлогизмов субъективно не воспринимаются как результат активаций и связей. Применение силлогизма ощущается как простое следование правилу – причем вполне разумному.

И все же мы предлагаем рассмотреть возможность того, что ощущение правила возникает из множества конкретных взаимосвязанных переживаний. Представим: человеку говорят, что у всех собак есть хвосты, и показывают собак с хвостами. Через несколько дней он узнает,