За секунду до: как мозг конструирует будущее, которое становится настоящим - Дэниел Йон

на глубокой аналогии между эволюцией в биологическом мире и мире умов[181]. В биологии ключевая идея эволюционной теории Дарвина состоит в том, что природа может создавать невероятное разнообразие и сложность без участия всезнающего творца. В биологической эволюции разные существа с разными свойствами образуются в рамках процессов «слепой вариативности» и «избирательного сохранения». Когда организмы размножаются, слепые процессы (например, генетическая мутация) вызывают случайные изменения свойств последующих поколений организмов (это и есть слепая вариативность). Затем новые поколения существ попадают в тяжелые условия природного мира, и те, которые по воле случая стали быстрее, сильнее или умнее, с большей вероятностью выживут (избирательное сохранение).

Чтобы эволюция работала, необходимо разнообразие. Если бы каждый ребенок был точной копией родителей, эволюция не могла бы эксплуатировать разнообразие и организмы никогда бы не менялись. Последующие поколения выглядели бы в точности как предыдущие.

Кэмпбелл использовал ту же эволюционную логику, чтобы рассмотреть происходящее в наших умах. Он увидел аналогию между биологическими процессами эволюции и когнитивными процессами — например, творческой мыслью[182]. В биологической эволюции генетические мутации создают случайные варианты, которым может затем отдать предпочтение естественный отбор, — так возникают более приспособленные существа, и тут не нужен разумный замысел. Кэмпбелл считал, что похожий процесс лежит и в основе создания творческих идей. Нам не нужно считать, что знаменитые писатели, поэты, художники или ученые — уникальные гении, которые извлекают идеальные идеи из некоего мира платонических форм. По мнению Кэмпбелла, нам необходимы только источники вариативности и сохранения в собственном разуме, пузырящийся бульон из мутирующих возможностей, которые мы будем просматривать и отбирать.

Включив эту идею в наши представления о копирующих сетях, мы получим интригующую возможность. На первый взгляд идея о том, что наш мозг работает так же, как LaMDA или GPT-2, выглядит уныло: получается, он усваивает ранее услышанные паттерны, а затем воспроизводит их в разговоре и письменной речи. Подражание другим не оставляет особого пространства для инноваций или индивидуальности в мышлении — мы обречены вечно плагиатить паттерны, которые наш мозг видел раньше, и неспособны сказать ничего по-настоящему нового.

«Это не так», — говорит нам Кэмпбелл. Предположим, эволюционные процессы в биологии действительно показывают нам, что производство и воспроизводство — и немного мутационного шума — могут создать потрясающее разнообразие форм. А что если аналогичные процессы в мозге — механическое обучение, имитация и воспроизводство плюс искра вариабельности — дают нам простор для подлинного новаторства?

Большие языковые модели по самому своему замыслу представляют собой огромные «пережевыватели» паттернов. Но передача генов от родителей к потомству не идеальна — на них влияют и случайные процессы, — и для алгоритмов это тоже верно. Их специально заставляют воспроизводить неидеально. Программисты, конструирующие эти модели, активно вводят небольшой элемент случайности в процесс. Без «инъекций» вариабельности языковые модели действительно ничем не отличались бы от безмозглых попугаев, всегда давали одинаковые ответы на одинаковые запросы, без всякого простора для инноваций.

Но, как и считали эволюционные эпистемологи, когда воспроизведение соединяется со случайностью, появляется возможность создать нечто новое. Некоторые новые фразы, которые изрекают языковые модели, нелепы, а если вы зададите им глупый вопрос, то получите неумный ответ. Например, если спросить у GPT-3: «Каков мировой рекорд в спортивной ходьбе через Ла-Манш?», он ответит: «18 часов 33 минуты», а на вопрос: «Сколько частиц звука содержится в типичном кучево-дождевом облаке?» он ответит: «В типичном кучево-дождевом облаке содержится около 1000 частиц звука»[183]. Эти ответы показывают, что модель на самом деле не понимает, о чем говорит, но каждый ответ, несомненно, оригинален. Она вряд ли встречала какую-то из этих фраз в своем списке для внеклассного чтения из миллиардов книг, на котором тренировалась, но с помощью сочетания предсказания и случайности она породила новую последовательность слов.

Если эти искусственные нейронные сети представляют собой хорошую модель для сетей в наших головах, то человеческий мозг проявляет генеративность и оригинальность ровно так же. Наш мозг, безусловно, отслеживает статистические закономерности в своих входящих данных. Но когда выявление шаблонов соединяется с треском нейронного шума, характерного для биологических мозгов, появляются условия для оригинальности. Подобно монтеневским пчелам, таскающим нектар из тимьяна и майорана, чтобы делать мед, наш мозг конструирует из заимствованных паттернов нечто новое.

Испорченный телефон — от иероглифа до кошки

Шум помех в нашей голове — не единственное, что заставляет нас воспроизводить информацию неидеально. Наш разум вдобавок фильтрует новые идеи сквозь существующие созвездия знаний и верований. Благодаря этому исходная мысль может мутировать во что-то совсем другое, когда ее реконструирует иной мозг.

Вспомните детскую игру в «испорченный телефон». Начинается все с одной фразы, которая шепотом передается другому человеку, от него — третьему и так далее. На каждом этапе сообщение воспроизводится неточно. Оно не просто становится шумнее и случайнее: оно мутирует, когда слушатели используют свой набор знаний и установок, чтобы воспроизвести то, что, как им кажется, они услышали. И благодаря этой фильтрации — творческому искажению — конечный продукт может сильно отличаться от исходного.

Некоторые психологи любят заставлять людей играть в «испорченный телефон» в лаборатории, хотя, чтобы добавить процессу респектабельности, они называют такие эксперименты «цепочками культурной передачи»[184]. Ученые дают исходное «семечко», которое пытается воспроизвести один из испытуемых. Выходные данные от первого становятся входными для второго, выходные данные второго — входными для третьего и т. д. Идея в том, что подобные цепочки передачи представляют собой своеобразную «культуру в миниатюре», имитируя проникновение мыслей, идей и практик из одного ума в другой, из него в третий…

Одним из первых такие эксперименты начал проводить Фредерик Бартлетт, первый профессор экспериментальной психологии в истории Кембриджского университета. В своей книге «Запоминание» (Remembering, 1932) он описал свои исследования, в которых давал участникам посмотреть на короткий текст или изображение, а потом повторить их по памяти[185]. Эти тексты или картинки получал следующий участник и т. д. Во всех экспериментах оказывалось, что объекты при передаче искажаются и мутируют. Например, рисунок, на котором первоначально изображался парусник, переворачивали вверх ногами и превращали в архитектурную арку или нечто похожее на пюпитр. Особенно сильными были искажения, когда исходным объектом в цепочке оказывалось нечто незнакомое. Древнеегипетский иероглиф «мулак» (незнакомый большинству современных людей) карикатурно перерисовывали как сову, а совы по мере продвижения по цепи превращались в кошек. При копировании и воспроизведении формы меняются — под влиянием особенностей разумов, участвующих в процессе.

Этот процесс фильтрации и нормализации, как кажется на первый взгляд, лишает процесс воспроизведения инновационности и оригинальности. Но только от самого копирующего разума зависит, станет ли идея более знакомой или более странной.

Как