Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Некоторые люди, похоже, даже верят, что словарь определяет значение — что редакторы словарей являются Законодателями Языка. Может быть, потому, что в начальной школе их учитель — непререкаемый авторитет — говорил, что они должны подчиняться словарю, и что это обязательное правило, а не рекомендация?

Редакторы словарей читают то, что пишут другие люди, и фиксируют, что, по всей видимости, эти слова означают; они — историки. Оксфордский словарь английского языка может быть всеобъемлющим, но он никогда не обладает законодательной силой.

Но ведь наверняка существует социальный императив использовать слова общепонятным образом? Разве наша человеческая телепатия, наша драгоценная способность к языку, не опирается на взаимную координацию для своей работы? Возможно, нам следует добровольно относиться к редакторам словарей как к верховным арбитрам — даже если они предпочитают считать себя историками, — чтобы поддерживать негласное сотрудничество, от которого зависит любая речь.

Словосочетание «авторитетный словарь» почти никогда не употребляется в своем буквальном значении (как словарь, наделенный властью); примером корректного использования служит «Авторитетный словарь терминов стандартов IEEE». IEEE — это организация, состоящая из голосующих членов, испытывающих профессиональную потребность в точном согласии по поводу терминов и дефиниций, и поэтому «Авторитетный словарь терминов стандартов IEEE» представляет собой настоящий, согласованный свод правил, который обладает всей той властью, которую принято признавать за IEEE.

В повседневной жизни общий язык обычно возникает не из преднамеренного соглашения вроде стандартов IEEE. Это скорее вопрос заражения, когда слова изобретаются и распространяются в культуре. (Как сказал бы Ричард Докинз сорок лет назад — «мем», но вы и так понимаете, о чем я, а если нет, можете погуглить, и тогда вы тоже заразитесь.)

И все же, как показывает пример с IEEE, соглашение о языке также может быть совместно созданным общественным благом. Если мы с вами хотим обмениваться мыслями с помощью языка — этой человеческой телепатии, — то в наших взаимных интересах использовать одно и то же слово для похожих понятий (предпочтительно понятий, близких к пределу разрешения того, как они представлены в нашем мозге), даже если у нас нет явного взаимного интереса в использовании какого-то конкретного слова для того или иного понятия.

У нас нет очевидного взаимного интереса в том, чтобы использовать слово «ото» для обозначения звука или «звук» для обозначения «ото»; но у нас есть взаимный интерес использовать одно и то же слово, какое бы слово это ни было. (Желательно, чтобы слова, которые мы используем часто, были короткими, но давайте пока не будем углубляться в теорию информации.)

Но, хотя у нас и есть взаимный интерес, для нас с вами не является строго необходимым использовать похожие ярлыки внутренне; это всего лишь удобно. Если я знаю, что для вас «ото» означает «звук» — то есть вы связываете слово «ото» с концептом, очень похожим на тот, который я связываю со словом «звук», — тогда я могу сказать: «Сминание бумаги издает потрескивающий ото». Это требует дополнительных мысленных усилий, но при желании я могу это сделать.

Точно так же, если вы спросите: «Какова трость от упавшего на пол шара для боулинга?» и я знаю, какой концепт вы связываете со словом «трость», я смогу понять, что вы имеете в виду. Это может потребовать некоторых размышлений и заставит меня запнуться, потому что обычно я связываю «трость» с совершенно другим понятием. Но я вполне справлюсь с этой задачей.

Когда мы, люди, действительно хотим общаться друг с другом, нас трудно остановить! Если мы окажемся на необитаемом острове без общего языка, мы возьмем палки и начнем рисовать картинки на песке.

Апелляция Альберта к аргументу к общепринятому словоупотреблению предполагает, что языковое соглашение — это совместно созданное общественное благо. И все же Альберт предполагает это с единственной целью — риторически обвинить Барри в нарушении соглашения и создании угрозы для этого блага. В итоге спор о падающем дереве прошел весь путь от ботаники к семантике и затем к политике; и Барри отвечает тем, что оспаривает право Альберта устанавливать значение слова.

Рационалист, приученный держать в фокусе исходный вопрос, заметил бы, что разговор ушел довольно далеко в сторону.

О дорогой читатель, неужели все это действительно необходимо? Альберт знает, что Барри имеет в виду под «звуком». Барри знает, что Альберт имеет в виду под «звуком». И у Альберта, и у Барри есть доступ к таким словам, как «акустические колебания» или «слуховое восприятие», которые они уже связывают с теми же понятиями и которые могут без какой-либо двусмысленности описать происходящее в лесу. Если бы они застряли на необитаемом острове, пытаясь общаться друг с другом, их задача была бы решена.

Когда обе стороны знают, что другая сторона хочет сказать, и при этом обвиняют друг друга в отступлении от «общепринятого словоупотребления», то чем бы они ни занимались, это явно не попытка найти способ общаться друг с другом. А ведь именно в этом и заключается вся польза общепринятого словоупотребления.

Зачем спорить о значении слова, пытаясь перетянуть его туда-сюда? Если это всего лишь конфликт имен, который неоправданно раздули, и на кону больше ничего не стоит, то обеим сторонам достаточно просто придумать два новых слова и использовать их последовательно.

И все же категоризация зачастую работает как скрытый вывод и замаскированный вопрос. Является ли атеизм «религией»? Если кто-то утверждает, что методы рассуждения в атеизме стоят на одном уровне с методами рассуждения в иудаизме, или что атеизм сопоставим с исламом с точки зрения причинного порождения насилия, то у него есть очевидный полемический интерес в том, чтобы свалить все это в кучу, в расплывчатое серое пятно «веры».

Или возьмем борьбу за то, чтобы объединить чернокожих и белых в категорию «люди». Здесь явно не тот случай, когда стоит придумывать два новых слова — ведь на кону стоит именно то, что между ними нельзя проводить моральных различий.

Но как только на кону оказывается какое-либо эмпирическое утверждение или какое-либо моральное утверждение, вы больше не можете апеллировать к общепринятому словоупотреблению.

Если вопрос в том, как сгруппировать похожие вещи для построения выводов, эмпирические предсказания будут зависеть от ответа; а это значит, что определения могут быть ошибочными. Конфликт предсказаний нельзя разрешить с помощью опроса общественного мнения.

Если вы хотите узнать, стоит ли объединять атеизм с религиями, основанными на вере в сверхъестественное, для целей какого-то конкретного эмпирического вывода, словарь вам не ответит.

Если вы хотите узнать, являются ли чернокожие людьми, словарь вам не ответит.

Если все верят, что красный огонек в небе —