Рождение разума: Как интеллект зарождается в людях и нейросетях - Джей Макклелланд

что у всех машин есть колеса, и видит машины с колесами. Благодаря подобному опыту веса связей постепенно настраиваются так, что предложения структуры Все C обладают свойством P порождают ожидание: встретив представителя категории C, мы обнаружим у него свойство P. Позже, столкнувшись с силлогизмами на занятиях по логике или философии, человек находит их разумными и знакомыми – тем более что силлогизмы часто объясняют на привычных примерах вроде знаменитого рассуждения о Сократе. То, что выглядит как абстрактный силлогизм, с точки зрения нейросетевой концепции укоренено в реальном опыте использования языка и его связи с нашими знаниями о свойствах объектов. Такие структуры лучше описывать не как абстрактные правила, а как схемы. Схемы могут функционировать подобно правилам, но они более гибкие и адаптивные, способны учитывать градации и исключения. Дэвид Румельхарт понимал схемы именно так и показал, что они могут быть гибкими, размытыми по краям, адаптивными эмерджентными структурами, возникающими в нейронных сетях, где веса связей формируются через паттерны совместной встречаемости в примерах. В дальнейших работах он развил эти идеи, создав нейросетевую версию иерархической модели Росса Квиллиана, которая представляет наши знания об объектах, их классовых отношениях и свойствах. В работах Румельхарта, а затем Джея Макклелланда и Тима Роджерса по семантическому познанию нейросетевой подход обеспечил основанное на опыте объяснение простых силлогистических рассуждений без привлечения абстрактных логических правил.

Если логические и лингвистические правила действительно усваиваются через опыт, мы должны лучше применять их в знакомых ситуациях, чем в непривычных. Например, схема вывода Все C обладают свойством P / X принадлежит к C / Следовательно, X обладает свойством P должна обрабатываться быстрее и точнее в варианте Все люди смертны / Сократ – человек / Следовательно, Сократ смертен, чем в варианте Все ликеты обладают свойством флис / Раксует – ликет / Следовательно, Раксует обладает свойством флис. Интересно, что в таких простых случаях эффект осведомленности едва заметен (проявляется лишь в чуть более медленной реакции), но стоит немного усложнить задачу – и влияние знакомого контекста становится очевидным. Рассмотрим классический пример.

Задача выбора карт Уэйсона

Логические головоломки наглядно демонстрируют, как знакомый контекст влияет на успешность решения. Один из таких классов задач, названный в честь психолога Питера Уэйсона, требует определить, какие из четырех карт нужно перевернуть, чтобы проверить выполнение определенного правила.

В одном из вариантов участникам показывают четыре карты: B, 14, S и 22 (рисунок 10.2) – и просят проверить, соблюдается ли правило: «Если на одной стороне карты буква B, то на другой стороне – число 21 или больше».

Вопрос звучит так: «Какие карты необходимо перевернуть, чтобы проверить истинность правила?»

Рисунок 10.2. Пример задачи Уэйсона: участник должен выбрать карты для проверки правила: «Если на одной стороне карты буква B, то на другой стороне – число 21 или больше»

Попробуйте решить эту задачу самостоятельно. Большинство участников понимают: нужно перевернуть карту B и проверить, действительно ли на обороте число 21 или больше. Логично. Но какую карту следует перевернуть второй?

Именно здесь многие ошибаются. Они считают, что нужно перевернуть карту 22 и посмотреть, есть ли на обороте буква B. Но это неверный путь. Правило гласит: если на карте B, то на обороте – 21 или больше. Если мы перевернем 22 и увидим N (или любую другую букву, кроме B), правило не нарушается. В правиле ничего не сказано о том, что должно быть на обороте карт с числами 21 и выше. Нарушение происходит только в одном случае: на одной стороне B, а на другой – число меньше 21.

Правильный ответ – карта 14. Если на обороте окажется B, правило нарушено. Но большинство людей этого не замечают, что говорит о том, что следование правилам формальной логики (по крайней мере, некоторым из них) не дается естественным образом большинству людей.

Зато люди прекрасно справляются с логически идентичной задачей, если она связана с жизненным опытом. Представьте правило: «Если человек пьет пиво, ему должен быть 21 год или больше». Теперь элементы на картах обретают знакомый смысл, хотя логически задача не изменилась (рисунок 10.3).

Карта B превращается в «Пиво», карта S – в «Лимонад», а числа становятся возрастом. Правило теперь звучит так: «Если на одной стороне карты написано "Пиво", то на другой стороне – возраст 21 год или старше».

Как и раньше, большинство правильно выбирает карту «Пиво» – нужно убедиться, что человеку есть 21. Но теперь, в отличие от абстрактной версии, люди редко ошибаются со второй картой. Они понимают: переворачивать карту «22 года» бессмысленно – этот человек может пить и пиво, и газировку – в обоих случаях правило не нарушается. И правильно выбирают карту «14 лет» – нужно проверить, не пьет ли подросток пиво.

Рисунок 10.3. Менее абстрактная версия задачи Уэйсона. Участники выбирают карты для проверки правила: «Если на одной стороне карты написано "Пиво", то на другой стороне – возраст 21 год или старше»

Удивительно, не правда ли? В знакомом контексте логические выводы даются нам легче. Это ставит под сомнение идею о врожденных логических правилах и подтверждает, что способность следовать логике формируется опытом – а значит, совместима с нейросетевой концепцией.

Любопытно, что LLM середины 2020-х годов демонстрируют ту же закономерность: они чаще ошибаются в абстрактных версиях задачи и успешнее справляются с вариантами из знакомых контекстов, которые встречались в обучающих данных. Как и люди, они лучше решают задачу Уэйсона, когда речь идет о проверке возраста для покупки алкоголя, чем когда правило сформулировано произвольно и непривычно.

Теперь рассмотрим, почему человеческое математическое мышление изначально не более систематично, чем логическое, и становится таковым только благодаря опыту.

Как мы учимся понимать числа

Взрослый человек легко справляется с самыми разными числовыми задачами. Если вас попросят дать 27 монет – вы отсчитаете от единицы до 27 и остановитесь. Причем сделаете это для любого числа N, не только для 27, – поэтому задача и называется «Дай N». Так же легко вы решите задачу «Где больше»: узнав, что в коробке А 16 предметов, а в коробке Б – 11, мгновенно определите, где их больше. Без труда справитесь с задачей «Следующее число»: если в коробке X бусин и туда добавили еще одну, вы скажете, что теперь там X + 1 бусин. Наконец, сможете выполнить задачу «Счет» – произносить числовой ряд сколь угодно долго (пока не надоест). Мы воспринимаем эти способности как нечто само собой разумеющееся, но все они опираются на фундаментальное понимание природы чисел.

Как же вы в детстве пришли к этому пониманию?

Можно предположить, что