Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

это Марс, бог войны, словарь определит «Марс» как бога войны. Если все верят, что огонь — это высвобождение флогистона, словарь определит «огонь» как высвобождение флогистона.

В использовании слов есть свое искусство; даже когда определения не являются истинными или ложными в буквальном смысле, они часто бывают более мудрыми или более глупыми. Словари — это всего лишь история прошлого словоупотребления; если относиться к ним как к высшим арбитрам значения, это привяжет вас к мудрости прошлого, не давая сделать лучше.

Но все же позаботьтесь о том (если уж вам непременно нужно отойти от мудрости прошлого), чтобы люди могли понять, что именно вы пытаетесь плыть.

*

166. Пустые ярлыки.

Рассмотрим (в очередной раз) аристотелевское представление о категориях. Представим, что перед нами некий объект со свойствами A, B, C, D и E — или, по крайней мере, он выглядит Е-подобно.

ФРЕД: «То есть вон та штука синяя, круглая, пушистая и...»

Я: «В аристотелевской логике не должно иметь значения, что это за свойства или как я их называю. Поэтому я просто использую буквы».

Затем я изобретаю аристотелевскую категорию «зава», которая описывает те объекты, все те объекты и только те объекты, которые обладают свойствами A, C и D.

Я: «Объект 1 — это зава, B и E».

ФРЕД: «И еще он синий — в смысле, A, — верно?»

Я: «Это подразумевается, когда я говорю, что он зава».

ФРЕД: «И всё-таки я бы хотел, чтобы ты сказал это явно».

Я: «Хорошо. Объект 1 — это A, B, зава и E».

Затем я добавляю еще одно слово, «йоки», которое описывает все и только те объекты, которые обладают свойствами B и E; и слово «ксиппо», описывающее все и только те объекты, которые обладают свойством E, но не D.

Я: «Объект 1 — это зава и йоки, но не ксиппо».

ФРЕД: «Погоди, он светится? В смысле, он E?»

Я: «Да. На основе имеющейся информации это единственно возможный вариант».

ФРЕД: «Я бы предпочёл, чтобы ты проговорил это прямо».

Я: «Ладно: Объект 1 — это A, зава, B, йоки, C, D, E и не ксиппо».

ФРЕД: «Потрясающе! И ты можешь всё это сказать, просто взглянув?»

Впечатляет, правда? Давайте изобретем еще больше новых слов: «боло» — это A, C и йоки; «мун» — это A, C и ксиппо; а «мерлакдониан» — это боло и мун.

Бессмысленная путаница? Я тоже так думаю. Давайте заменим ярлыки их определениями:

«Зава, B и E» превращается в [A, C, D], B, E

«Боло и A» превращается в [A, C, [B, E]], A

«Мерлакдониан» превращается в [A, C, [B, E]], [A, C, [E, ¬D]].

И главное, что нужно помнить об аристотелевском представлении о категориях, это то, что [A, C, D] — это и есть вся информация, содержащаяся в слове «зава». Дело не просто в том, что я могу менять ярлык, а в том, что я могу прекрасно обходиться вообще без ярлыков — правила для аристотелевских классов работают исключительно со структурами вроде [A, C, D]. Называть одну из этих структур «зава» или навешивать на нее любой другой ярлык — это человеческое удобство (или неудобство), которое не имеет ни малейшего значения для аристотелевских правил.

Предположим, слово «человек» определяется как смертное двуногое без перьев. Тогда классический силлогизм принял бы следующий вид:

Все [смертные, ¬перья, двуногие] смертны.

Сократ — это [смертный, ¬перья, двуногий].

Следовательно, Сократ смертен.

Теперь этот подвиг мысли выглядит куда менее впечатляюще, не правда ли?

Здесь иллюзия вывода возникает из-за ярлыков, которые скрывают посылки и претендуют на новизну в заключении. Замена ярлыков определениями разоблачает эту иллюзию, обнажая эмпирическую бесполезность тавтологии. Вы никогда не сможете утверждать, что Сократ — это [смертный, ¬перья, двуногий], пока не пронаблюдаете, что он смертен.

Существует идея, которую — как вы, возможно, заметили — я терпеть не могу: «слово можно определять как угодно». Эта идея восходит к аристотелевскому понятию категорий; ведь если следовать аристотелевским правилам строго и безупречно — чего люди никогда не делают (Аристотель прекрасно знал, что Сократ человек, хотя это и не было обосновано его правилами), — так вот, если бы некая воображаемая нечеловеческая сущность следовала этим правилам неукоснительно, она бы никогда не пришла к противоречию. Впрочем, она бы вообще мало к чему пришла: она бы не смогла утверждать, что Сократ — это [смертный, ¬перья, двуногий], пока не пронаблюдала бы, что он смертен.

Но дело даже не в том, что ярлыки в аристотелевской системе произвольны, а в том, что аристотелевская система прекрасно работает вообще без каких-либо ярлыков — она штампует точно такой же поток тавтологий, просто они выглядят куда менее впечатляюще. Ярлыки нужны лишь для того, чтобы создавать иллюзию вывода.

Так что если уж вам и нужно какое-то аристотелевское изречение, то оно должно гласить не «я могу определять слово как мне угодно» и даже не «определение слова никогда не имеет последствий», а скорее: «Определениям не нужны слова».

*

167. Наложите табу на свои слова.

В игре «Табу» (от компании Hasbro) цель игрока — сделать так, чтобы его партнер угадал слово, написанное на карточке, не используя при этом само это слово и еще пять дополнительных слов, указанных на ней. Например, вам нужно сделать так, чтобы ваш партнер произнес слово «бейсбол», но вы не можете использовать слова «спорт», «бита», «удар», «подача», «база» и, разумеется, «бейсбол».

Как только я вижу подобную задачу, мне сразу приходит в голову: «Искусственный групповой конфликт, в котором вы используете длинный деревянный цилиндр, чтобы колотить по брошенному сфероиду, а затем бегаете между четырьмя безопасными позициями». Возможно, это не самая эффективная стратегия для передачи слова «бейсбол» по установленным правилам — гораздо эффективнее было бы сказать: «Это то, во что играют „Янкиз“», — но сам навык мысленно вычеркивать слово я тренировал годами, пусть и с другой целью.

В предыдущем эссе мы увидели, как замена терминов их определениями может вскрыть эмпирическую бесплодность классического аристотелевского силлогизма. Все люди смертны (а также, судя по всему, являются двуногими без перьев); Сократ — человек; следовательно, Сократ смертен. Если заменить слово «человек» его очевидным определением, обнаружится стоящий за этим ход рассуждений:

Все [смертные, ¬перья, двуногие] смертны;

Сократ — [смертный, ¬перья, двуногий];

Следовательно, Сократ смертен.