Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

заставившие их детекторы «звука» сработать или промолчать. Но пока разговор все еще сосредоточен на лесе, а не на определениях. И заметьте, что они на самом деле согласны во всем, что происходит в самом лесу.

АЛЬБЕРТ: «Это самый тупой спор в моей жизни. Ты просто нидлвикский фаллампящий рассолопроводчик».

БАРРИ: «Да неужели? А у тебя лицо такое, будто оно загорелось, а кто-то потушил его лопатой».

Оскорбление нанесено и принято; теперь ни одна сторона не может отступить, не потеряв лица. Строго говоря, это не часть дискуссии в том смысле, как его понимают рационалисты, но это настолько важный элемент Стандартного Спора, что я все равно его включил.

АЛЬБЕРТ: «Дерево производит акустические колебания. По определению, это и есть звук».

БАРРИ: «Никто ничего не слышит. По определению, это не звук».

Спор начинает смещаться к обсуждению определений. Всякий раз, когда у вас возникает искушение сказать слова «по определению» в споре, который не касается в буквальном смысле чистой математики, помните: все, что истинно «по определению», истинно во всех возможных мирах, а значит, констатация этой истины никогда не поможет вам наложить ограничения на то, в каком именно мире вы живете.

АЛЬБЕРТ: «Микрофон моего компьютера может записать звук без чьего-либо присутствия, сохранить его в виде файла, и этот файл будет называться "звуковым файлом". При этом в файле сохраняется именно паттерн колебаний воздуха, а не паттерн нейронных импульсов в чьем-то мозгу. "Звук" означает паттерн колебаний».

Альберт приводит аргумент, который ощущается как подтверждение того, что слово «звук» имеет конкретное значение. Этот вопрос принципиально отличается от вопроса о том, происходят ли в лесу акустические колебания, но этот сдвиг обычно остается незамеченным.

БАРРИ: «Да неужели? Давай просто посмотрим, согласен ли с тобой словарь».

В сценарии с падающим деревом меня могло бы заинтересовать очень многое. Я мог бы пойти в лес и понаблюдать за деревьями, или научиться выводить волновое уравнение для изменения давления воздуха, или изучить анатомию уха, или заняться нейроанатомией слуховой коры. Вместо всего этого я почему-то должен сверяться со словарем. Зачем? Разве составители словаря — эксперты в ботанике, физике или нейробиологии? Заглянуть в энциклопедию еще имело бы смысл, но зачем лезть в словарь?

АЛЬБЕРТ: «Ха! Определение 2c в словаре Мерриама-Вебстера: "Звук: механическая лучистая энергия, передающаяся продольными волнами давления в материальной среде (например, воздухе)".»

БАРРИ: «Ха! Определение 2b в словаре Мерриама-Вебстера: "Звук: ощущение, воспринимаемое органом слуха".»

АЛЬБЕРТ И БАРРИ (хором): «Чертов словарь! Это нисколько не помогает!»

Составители словарей — это историки словоупотребления, а не законодатели языка. Они находят слова в текущем употреблении, а затем записывают их рядом с (небольшой частью) того, что люди, по-видимому, под ними подразумевают. Если вариантов употребления несколько, составители записывают несколько определений.

АЛЬБЕРТ: «Слушай, предположим, я оставил в лесу микрофон и записал паттерн акустических колебаний падающего дерева. Если бы я кому-то это воспроизвел, они назвали бы это "звуком"! Вот оно, общепринятое употребление! Хватит выдумывать свои нелепые определения!»

БАРРИ: «Во-первых, я могу определять слово как угодно, при условии, что использую его последовательно. Во-вторых, предложенное мной значение было в словаре. В-третьих, кто дал тебе право решать, что является общепринятым употреблением, а что нет?»

В Стандартном Споре кроется изрядное количество ошибок рациональности. Некоторые из них я уже разобрал, некоторые мне еще только предстоит разобрать; то же касается и методов их исправления.

Но пока я просто хотел бы заметить — с некоторой грустью, — что Альберт и Барри, похоже, согласны практически во всём насчёт того, что на самом деле происходит в лесу, и тем не менее это, судя по всему, не рождает у них никакого ощущения согласия.

Споры об определениях — это ложный путь; люди не пошли бы по нему, если бы с самого начала видели, куда он ведёт. Если бы вы спросили Альберта (или Барри), почему он всё ещё спорит, он, вероятно, ответил бы что-то вроде: «Барри (Альберт) пытается протащить своё собственное определение "звука", паршивый негодяй, чтобы подкрепить свою нелепую точку зрения; а я здесь для того, чтобы защитить стандартное определение».

Но предположим, я перенёсся бы в прошлое, к моменту до начала спора:

(Элиезер появляется из ниоткуда в странном средстве передвижения, которое выглядит точь-в-точь как машина времени из оригинального фильма «Машина времени».)

БАРРИ: «Ого! Путешественник во времени!»

ЭЛИЕЗЕР: «Я путешественник из будущего! Внемлите моим словам! Я совершил путешествие далеко в прошлое — примерно на пятнадцать минут...»

АЛЬБЕРТ: «На пятнадцать минут?»

ЭЛИЕЗЕР: «...чтобы доставить вам это послание!»

(Пауза, в которой смешались замешательство и ожидание.)

ЭЛИЕЗЕР: «Считаете ли вы, что определение "звука" должно требовать как наличия акустических колебаний (волн давления в воздухе), так и слуховых ощущений (кого-то, кто этот звук слышит), или же слово "звук" должно определяться как означающее только акустические колебания, или только слуховые ощущения?»

БАРРИ: «Ты вернулся в прошлое, чтобы спросить нас об этом?»

ЭЛИЕЗЕР: «Мои цели касаются только меня! Отвечайте!»

АЛЬБЕРТ: «Ну... Не вижу, какая разница. Можно выбрать любое определение, лишь бы использовать его последовательно».

БАРРИ: «Брось монетку. Э-э, брось монетку дважды».

ЭЛИЕЗЕР: «Лично я сказал бы, что при возникновении подобного вопроса обеим сторонам следует перейти к описанию события через однозначные составляющие более низкого уровня — такие как акустические колебания или слуховые ощущения. Либо каждая сторона могла бы придумать новое слово, например "альберзль" и "баргулум", чтобы обозначать то, что они соответственно раньше называли «звуком», а затем обе стороны могли бы использовать эти новые слова последовательно. Таким образом, ни одной из сторон не придётся отступать или терять лицо, но они всё равно смогут общаться. И, конечно же, вам постоянно следует отслеживать, вокруг какого именно проверяемого утверждения на самом деле идёт спор. Это кажется вам разумным?»

АЛЬБЕРТ: «Наверное...»

БАРРИ: «А почему мы вообще об этом говорим?»

ЭЛИЕЗЕР: «Чтобы уберечь вашу дружбу от стечения обстоятельств, о котором вы теперь никогда не узнаете. Ибо будущее уже изменилось!»

(Элиезер и машина исчезают в клубах дыма.)

БАРРИ: «Так на чём мы остановились?»

АЛЬБЕРТ: «Ах да: если дерево падает в лесу и никто этого не слышит, издаёт ли оно звук?»

БАРРИ: «Оно производит альберзль, но не баргулум. Какой следующий вопрос?»

Это средство устраняет не каждый спор о категоризации. Но оно уничтожает значительную их часть.

*

164. Почувствуй смысл.

Когда я слышу, как кто-то говорит: «Ой, смотри, бабочка», произнесенные фонемы «бабочка» проникают в ухо и заставляют