Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

малиновок как точки в пространстве. Мы верим в одно и то же утверждение о массе малиновки независимо от того, представляем ли мы себе малиновку, уравновешивающую на весах гирьку весом 0,07 кг, или точку-малиновку с координатой массы +70.

Мы можем даже представить себе конфигурационное пространство с одним или несколькими измерениями для каждой отдельной характеристики объекта, так что положение точки объекта в этом пространстве будет соответствовать всей информации о самом реальном объекте. Причём представленной довольно избыточно — измерения будут включать массу, объём и плотность.

Если вам кажется, что это чересчур, то квантовые физики используют бесконечномерное конфигурационное пространство, где одна-единственная точка описывает положение каждой частицы во Вселенной. Так что в нашей визуализации пространства вещей мы на самом деле ведём себя сравнительно консервативно: точка в пространстве вещей описывает всего один объект, а не всю Вселенную.

Если мы не уверены в точной массе и объёме малиновки, мы можем представить себе небольшое облако в пространстве вещей — область неопределённости, внутри которой может находиться малиновка. Плотность облака — это плотность нашей уверенности в том, что малиновка имеет именно эти массу и объём. Если вы больше уверены в плотности малиновки, чем в её массе и объёме, ваше облако вероятностей будет сильно сконцентрировано по оси плотности и сосредоточено вокруг наклонной линии в подпространстве массы и объёма. (В самом деле, облако здесь фактически представляет собой поверхность из-за соотношения V · D = M.)

«Радиальные категории» — так когнитивные психологи называют неаристотелевские границы слов. Центральная «мать» зачинает своего ребёнка, рожает его и воспитывает. Является ли матерью донор яйцеклетки, которая никогда не видела своего ребёнка? Она — «генетическая мать». А как насчёт женщины, которой имплантировали чужой эмбрион и которая выносила его до конца срока? Она — «суррогатная мать». А женщина, которая воспитывает ребёнка, не являющегося её генетическим потомком? Что ж, она — «приёмная мать». Аристотелевский силлогизм гласил бы: «У людей десять пальцев, у Фреда девять пальцев, следовательно, Фред — не человек», но на самом деле мы думаем иначе: «У людей десять пальцев, Фред — человек, следовательно, Фред — „человек с девятью пальцами“».

Мы можем думать о радиальности категорий в интенсиональном смысле, как описано выше, — свойства, которые обычно присутствуют, но могут и отсутствовать. Если бы мы размышляли об интенсионале слова «мать», он мог бы походить на распределённое свечение в пространстве вещей, интенсивность которого отражает то, насколько данная область пространства вещей соответствует категории «мать». Это свечение сосредоточено в центре генетики, рождения и воспитания детей; область доноров яйцеклеток тоже светилась бы, но менее ярко.

Или же мы можем помыслить радиальность категорий экстенсионально. Представьте, что мы нанесли всех птиц мира на карту пространства вещей, используя метрику расстояния, которая максимально точно соответствует субъективному сходству в представлении людей: одна малиновка более похожа на другую малиновку, чем любая из них на голубя, но и малиновки, и голуби больше похожи друг на друга, чем любая из этих птиц на пингвина, и так далее.

Тогда центр всей «птичности» был бы плотно заполнен множеством тесно соседствующих кластеров — малиновок, воробьёв, канареек, голубей и многих других видов. Орлы, соколы и другие крупные хищные птицы занимали бы соседний кластер. Пингвины находились бы в более удалённом кластере, равно как куры и страусы.

Результат и вправду мог бы напоминать астрономическое скопление: множество галактик, вращающихся вокруг центра, и несколько галактик на периферии.

Или же мы можем одновременно думать как об интенсионале когнитивной категории «птица», так и о её экстенсионале в реальном мире птиц: центральные кластеры малиновок и воробьев ярко светятся типичной «птичностью»; кластеры-спутники страусов и пингвинов светятся тусклее нетипичной «птичностью», а Авраам Линкольн находится в нескольких мегапарсеках от них и не светится вообще.

Мне больше нравится эта последняя визуализация — светящиеся точки, — поскольку, как я это вижу, структура когнитивного интенсионала следовала из экстенсиональной структуры кластера. Сначала возникла структура-в-мире — эмпирическое распределение птиц в пространстве вещей; затем, наблюдая её, мы сформировали категорию, чьё интенсиональное свечение примерно накладывается на эту структуру.

Это даёт нам ещё один взгляд на то, почему слова — это не аристотелевские классы: эмпирическая кластерная структура реальной вселенной не обладает идеальной кристаллической чёткостью. Естественный кластер — группа вещей, крайне похожих друг на друга, — может не иметь никакого набора необходимых и достаточных свойств — никакого набора признаков, которыми обладают все члены группы и не обладает ни один объект за её пределами.

Но даже если категория безнадёжно размыта и бугриста, паниковать не стоит. Я бы не стал возражать, если бы кто-то сказал, что птицы — это «пернатые летающие существа». Но пингвины же не летают! — что ж, ладно. В обычном правиле есть исключение; это не конец света. В любом случае от определений не стоит ожидать точного соответствия эмпирической структуре пространства вещей, ведь карта меньше территории и устроена гораздо проще. Смысл определения «пернатые летающие существа» в том, чтобы направить слушателя к кластеру птиц, а не в том, чтобы дать исчерпывающее описание каждой существующей птицы вплоть до молекулярного уровня.

Когда вы проводите границу вокруг группы экстенсиональных точек, эмпирически сгруппированных в пространстве вещей, вы можете обнаружить как минимум одно исключение из любого простого интенсионального правила, какое только сможете придумать.

Но если определение на практике работает достаточно хорошо, чтобы указать на нужный эмпирический кластер, возражения против него можно с полным правом назвать «придирками».

*

160. Скрытые запросы.

Представьте, что у вас странная работа на странной фабрике: ваша задача — брать предметы с загадочной конвейерной ленты и сортировать их по двум контейнерам. Когда вы только приходите, старшая сортировщица Сьюзен объясняет вам, что синие яйцеобразные предметы называются «блэггами» и отправляются в «контейнер для блэггов», а красные кубы называются «рубами» и отправляются в «контейнер для рубов».

Начав работать, вы замечаете, что блэгги и рубы различаются не только цветом и формой. Блэгги покрыты мехом, а рубы — гладкие. Блэгги слегка прогибаются при нажатии, а рубы — твердые. Блэгги непрозрачные, а поверхность рубов слегка просвечивает.

Вскоре после начала работы вам попадается блэгг необычайно темно-синего оттенка — при ближайшем рассмотрении цвет оказывается фиолетовым, чем-то средним между красным и синим.

Но постойте! Почему вы называете этот предмет «блэггом»? Изначально «блэгг» определялся как синий и яйцеобразный — собственно, признак синевы присутствует в самом названии «блэгг». Этот предмет не синий. Один из необходимых