Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

вибрировать барабанную перепонку, передаваясь в улитку, щекоча слуховые нервы, которые передают импульсы активации в слуховую кору, где начинается обработка фонем, наряду с распознаванием слов и реконструкцией синтаксиса (процесс отнюдь не последовательный) и множеством других сложностей.

Но в конце концов — вернее, в конце секунды — я уже готов посмотреть туда, куда указывает мой друг, и увидеть зрительный паттерн, который я распознаю как бабочку; и я бы весьма удивился, если бы вместо этого увидел волка.

Мой друг смотрит на бабочку, его гортань вибрирует, а губы шевелятся, невидимые волны давления распространяются по воздуху, мое ухо слышит, нервы преобразуют сигнал, а мозг воссоздает картину — и, о чудо, я знаю, на что смотрит мой друг. Разве это не чудо? Если бы мы не знали о волнах давления в воздухе, это стало бы потрясающим открытием на первых полосах всех газет: люди обладают телепатией! Человеческий мозг способен передавать мысли другому мозгу!

Что ж, на самом деле мы действительно телепаты; но магия перестает будоражить воображение, когда она всего лишь реальна, а все ваши друзья умеют делать то же самое.

Думаете, телепатия — это просто? Попробуйте создать компьютер, способный на телепатическую связь с вами. Телепатия, или «язык», или как бы вы ни называли нашу способность к частичной передаче мыслей, устроена гораздо сложнее, чем кажется.

Но было бы крайне неудобно ходить и думать: «Сейчас я частично преобразую некоторые характеристики своих мыслей в линейную последовательность фонем, которая вызовет похожие мысли у моего собеседника...»

Поэтому мозг скрывает эту сложность — или, вернее, изначально вообще её не репрезентирует, — из-за чего люди приходят к весьма странным мыслям о словах.

Как я уже отмечал ранее, когда на меня бросается крупный желтый полосатый объект, я думаю: «Ой! Тигр!», а не: «Хм... объекты со свойствами крупности, желтизны и полосатости ранее часто обладали свойствами „голодный“ и „опасный“, и поэтому, хотя это и не является логически необходимым, а-а-а-а-а ХРУСТЬ ХРУСТЬ ГЛОТ».

Точно так же, когда кто-то кричит: «Ой! Тигр!», естественный отбор не благоприятствовал бы организму, который подумал бы: «Хм... Я только что услышал слоги „Ти“ и „Грр“, которые мои соплеменники ассоциируют со своими внутренними аналогами моего собственного концепта тигра, и которые они с большей вероятностью произнесут, если увидят объект, классифицируемый ими как а-а-а-а-и ХРУСТЬ ХРУСТЬ помогите, он схватил меня за руку ХРУСТЬ ГЛОТ».

Рисунок 164.1: Сеть 3

С точки зрения проектных ограничений человеческой когнитивной архитектуры, вам не захотелось бы иметь никаких лишних шагов между моментом, когда слуховая кора распознает слоги «ти-гр», и моментом активации концепта тигра.

Возвращаясь к притче о блэггах и рубах и к централизованной сети, которая классифицирует быстро и с минимальными затратами, вы можете представить себе прямую связь, идущую от элемента, распознающего слог «блэгг», к элементу в центре сети блэггов. Центральный элемент, концепт блэгга, активируется почти в тот же миг, как вы слышите, как Сьюзен, Старшая Сортировщица, говорит: «Блэгг!»

Или, для целей разговора — который тоже не должен занимать целую вечность, — как только вы видите синий яйцевидный предмет и срабатывает центральный элемент блэгга, вы кричите Сьюзен: «Блэгг!»

И изнутри этот алгоритм ощущается так, будто ярлык и концепт практически отождествлены; смысл ощущается как неотъемлемое свойство самого слова.

Знатоки узнают в этом пример «ошибки проекции разума» Э. Т. Джейнса. Кажется, будто слово обладает значением как собственным свойством — точно так же, как краснота является свойством красного яблока, а таинственность — свойством загадочного явления.

И действительно, в большинстве случаев мозг вообще не разделяет слово и значение — разве что давая себе труд разграничить их при изучении нового языка. Но даже тогда, увидев, как Сьюзен указывает на синий яйцевидный предмет и говорит «Блэгг!», вы подумаете: Интересно, что означает «блэгг», а не: Интересно, какую ментальную категорию Сьюзен связывает со слуховым ярлыком «блэгг».

В этом свете рассмотрим ту часть Стандартного спора об определениях, где обе стороны спорят о том, что слово «звук» на самом деле означает — точно так же они могли бы спорить о том, является ли конкретное яблоко на самом деле красным или зеленым:

АЛЬБЕРТ: «Микрофон моего компьютера может записать звук, даже если рядом никого нет, чтобы его услышать, сохранить его в виде файла, и этот файл называется „звуковым файлом“. И то, что сохранено в файле — это паттерн колебаний воздуха, а не паттерн нейронных импульсов в чьем-то мозгу. „Звук“ означает паттерн колебаний».

БАРРИ: «Да неужели? Давай просто посмотрим, согласен ли с тобой словарь».

Альберт интуитивно чувствует, что слово «звук» обладает значением, и это значение и есть акустические колебания. Точно так же Альберт чувствует, что дерево, падающее в лесу, издает звук (а не вызывает событие, которое соответствует категории звука).

Барри аналогичным образом чувствует, что:

звук.значение == слуховые ощущения

лес.звук == ложь.

Вместо этого:

мойМозг.НайтиКонцепт("звук") == концепт_СлуховоеОщущение

концепт_СлуховоеОщущение.соответствует(лес) == ложь.

Что гораздо ближе к тому, что происходит на самом деле; но люди не эволюционировали так, чтобы знать это, так же как они инстинктивно не знают, что мозг состоит из нейронов.

Противоречащие друг другу интуиции Альберта и Барри служат топливом для продолжения дискуссии на этапе спора о том, что означает слово «звук» — который ощущается как спор о факте, подобном любому другому факту, например о том, синее небо или зеленое.

Вы можете даже не заметить, что что-то пошло не так, пока не попытаетесь провести рационалистический ритуал формулирования проверяемого эксперимента, результат которого зависит от фактов, о которых вы так горячо спорите...

*

165. Аргумент к общепринятому словоупотреблению. Часть стандартного спора о дефинициях выглядит так:

АЛЬБЕРТ: «Слушай, предположим, я оставил в лесу микрофон и записал структуру акустических колебаний падающего дерева. Если бы я кому-то это включил, они бы назвали это „звуком“! Это общепринятое словоупотребление! Не надо выдумывать собственные дурацкие определения!»

БАРРИ: «Во-первых, я могу определять слово как мне угодно, при условии, что использую его последовательно. Во-вторых, значение, которое я дал, было в словаре. В-третьих, кто дал тебе право решать, что является общепринятым словоупотреблением, а что нет?»

Не все споры о дефинициях продвигаются так далеко, чтобы признать само понятие общепринятого словоупотребления. Мне кажется, чаще кто-то просто тянется к словарю, потому что верит, будто у слов есть значения, а словарь послушно фиксирует, в чем именно это значение заключается.