Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Если вы определите «элуктромугнетизм» так, чтобы он включал молнию, включал компасы, исключал свет и включал «животный магнетизм» Месмера (то, что мы сейчас называем гипнозом), то у вас возникнут трудности с вопросом: «Как работает элуктромугнетизм?» Вы свалили в одну кучу вещи, которые не имеют друг к другу отношения, и исключили другие, необходимые для полноты картины. (Этот пример исторически правдоподобен: Месмер жил до Фарадея.)

Можно сказать, что элуктромугнетизм — это неправильное слово, граница в пространстве вещей, которая петляет и виляет между кластерами, разрез, который не разделяет реальность по её естественным сочленениям.

Понять, где провести разрез, чтобы разделить реальность по сочленениям, — вот задача, достойная рационалиста. Это именно то, что люди должны пытаться делать, когда отправляются на поиски парящей в пустоте сути слова.

И не сомневайтесь: осознать, что вам нужно одно слово для описания дыхания и огня — это научная задача. Так что не думайте обращаться к составителям словарей, ведь это не их работа.

Что такое «искусство»? Но у этого слова нет никакой сути, парящей в пустоте.

Возможно, вы придёте ко мне с длинным списком вещей, которые вы называете «искусством» и «не искусством»:

Малая фуга соль минор: Искусство.

Удар в нос: Не искусство.

«Относительность» Эшера: Искусство.

Цветок: Не искусство.

Язык программирования Python: Искусство.

Крест, плавающий в моче: Не искусство.

Романы Джека Вэнса о Тшае: Искусство.

Современное искусство: Не искусство.

И вы говорите мне: «Интуитивно мне кажется правильным провести границу именно так, но я не знаю почему. Можете ли вы найти для меня интенсионал, соответствующий этому экстенсионалу? Можете ли вы дать мне простое описание этой границы?»

И я отвечаю: «Думаю, дело в восхищении мастерством: на входе труд, на выходе чудо. Общее у всех включённых в список вещей — это схожие эстетические эмоции, которые они вызывают, и целенаправленные человеческие усилия, затраченные на их создание с намерением вызвать такую эмоцию».

Помогает ли это, или это просто жульничество в игре «Табу»? Я бы возразил, что список человеческих эмоций, являющихся или не являющихся эстетическими, гораздо компактнее, чем список всего, что является или не является искусством. Эти эмоции можно увидеть на снимке фМРТ — я говорю это, чтобы подчеркнуть, что эмоции не бесплотны.

Но, конечно, суть вовсе не в моём определении искусства. Главное — вы вполне могли бы оспорить либо интенсионал, либо экстенсионал моего определения.

Вы могли бы сказать: «Эстетическая эмоция — это не то общее, что есть у этих вещей; их объединяет намерение вызвать любую сложную эмоцию просто ради того, чтобы её вызвать». Это означало бы оспорить мой интенсионал, мою попытку провести кривую через точки данных. Вы бы сказали: «Ваше уравнение может приблизительно соответствовать этим точкам, но оно не отражает истинного порождающего распределения».

Или вы могли бы оспорить мой экстенсионал, сказав: «Кое-что из этого действительно должно быть вместе — я понимаю, к чему вы клоните, — но языка Python в списке быть не должно, а вот современному искусству там самое место». (Это выдало бы в вас обывателя, но вы могли бы привести такие аргументы.) Здесь предполагается, что действительно существует некая лежащая в основе кривая, порождающая этот кажущийся список похожих и непохожих вещей, что у всего этого есть своя логика и закономерность, пусть даже вы ещё не объяснили, откуда они берутся, но я невольно сбился с ритма и включил туда несколько точек данных из другого генератора.

Задолго до того, как вы узнаете, что именно объединяет электричество и магнетизм, вы всё равно можете подозревать — исходя из внешних признаков, — что «животному магнетизму» не место в этом списке.

Когда-то считалось, что слово «рыба» включает в себя дельфинов. Теперь вы могли бы сыграть роль этакого умника в споре и сказать: «Список {лосось, гуппи, акулы, дельфины, форель} — это просто список, нельзя сказать, что список неправилен. Я могу доказать с помощью теории множеств, что это множество существует. Следовательно, моё определение рыбы, являющееся просто этим экстенсиональным списком, никак не может быть „ошибочным“, как вы утверждаете».

Или вы могли бы бросить эти игры и признать, что дельфинам не место в списке рыб.

Вы составляете список вещей, которые ощущаются схожими, и строите догадки о том, почему это так. Но когда вы наконец откроете, что между ними на самом деле общего, может оказаться, что ваша догадка была неверной. Может даже оказаться, что и сам ваш список был неверным.

Вы не можете спрятаться за удобным щитом «правильности по определению». И экстенсиональные, и интенсиональные определения могут быть ошибочными, могут не разделять реальность по сочленениям.

Классификация — это процесс, основанный на догадках, в котором легко ошибиться; поэтому с теоретической точки зрения разумно быть готовым признать, что ваши определения-догадки могут быть «ошибочными».

*

174. Энтропия и короткие коды.

(Если вы не знакомы с байесовским выводом, возможно, сейчас самое время прочесть «Интуитивное объяснение теоремы Байеса».)

Предположим, у вас есть система X, которая с равной вероятностью может находиться в любом из 8 возможных состояний:

{X1, X2, X3, X4, X5, X6, X7, X8}.

Существует одна повсеместно встречающаяся величина — в физике, математике и даже биологии, — называемая энтропией; и энтропия X равна 3 битам. Это значит, что в среднем нам придётся задать 3 вопроса с ответами «да/нет», чтобы узнать значение X. Например, кто-то мог бы сообщить нам значение X, используя такой код:

X1 : 001

X2 : 010

X3 : 011

X4 : 100

X5 : 101

X6 : 110

X7 : 111

X8 : 000.

Так что если бы я спросил: «Первый символ — единица?» и услышал «да», затем спросил: «Второй символ — единица?» и услышал «нет», а потом спросил: «Третий символ — единица?» и услышал «нет», я бы узнал, что X находится в состоянии 4.

Теперь предположим, что система Y имеет четыре возможных состояния со следующими вероятностями:

Y1 : 1∕2 (50%)

Y2 : 1∕4 (25%)

Y3 : 1∕8 (12,5%)

Y4 : 1∕8 (12,5%).

Тогда энтропия Y составит 1,75 бита, что