Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

бы «да». Если бы вы спросили его, откуда он это знает, он ответил бы: «Все люди смертны; Кэрол — человек; следовательно, Кэрол смертна». Спроси вы его, догадка это или уверенность, он ответил бы, что это уверенность (по крайней мере, если бы вы спросили об этом до шестнадцатого века). Спроси вы его, откуда известно, что люди смертны, он ответил бы, что это установлено определением.

Аристотелики оставались теми же людьми, они сохранили свою изначальную природу, но приобрели неверные убеждения касательно собственного функционирования. Они смотрели в зеркало самосознания и видели нечто несхожее с их истинным «я»: они отражались искаженно.

Ваш мозг не относится к словам как к логическим определениям без эмпирических последствий, и вам тоже не следует этого делать. Само создание слова может заставить ваш разум выделить для него категорию и тем самым запустить неосознанные выводы о сходстве. Или заблокировать их; если я создам два ярлыка, я могу заставить ваш разум выделить две категории. Заметили, как я сказал «вы» и «ваш мозг», будто это разные вещи?

Ошибки в представлениях о том, что происходит у вас в голове, не меняют того, что там находится на самом деле, — иначе Аристотель умер бы, как только пришел к выводу, что мозг служит органом для охлаждения крови. Философские ошибки обычно не мешают мгновенным перцептивным выводам.

Но философские ошибки могут серьезно испортить процессы осознанного мышления, к которым мы прибегаем, пытаясь исправить наши первые впечатления. Если вы верите, что можете «определять слово как угодно», не понимая, что ваш мозг продолжает категоризировать объекты без вашего сознательного контроля, то вы не станете прилагать усилий, чтобы подбирать определения с умом.

*

156. Экстенсионалы и интенсионалы. «Что такое красный?». «Красный — это цвет». «Что такое цвет?». «Цвет — это свойство вещи».

Но что такое вещь? И что такое свойство? Вскоре оба понятия теряются в лабиринте слов, определяемых через другие слова. Эту проблему Стивен Харнад однажды описал как попытку выучить китайский язык по китайско-китайскому словарю.

С другой стороны, если бы вы спросили меня: «Что такое красный?», я мог бы показать на знак «Стоп», затем на чью-то красную рубашку, на красный сигнал светофора, на кровь из случайного пореза, на красную визитку, а потом открыть цветовой круг на компьютере и навести курсор на красную область. Этого, скорее всего, было бы достаточно, хотя, если вы понимаете значение слова «нет», истинные буквоеды настояли бы на том, чтобы я показал на небо и сказал: «Нет».

Кажется, я позаимствовал этот пример у С. И. Хаякавы — хотя точно не уверен, поскольку слышал его давным-давно, в смутных очертаниях моего детства. (Когда мне было двенадцать, мой отец случайно удалил все файлы на моем компьютере. Я ничего не помню о том, что было до этого.)

Но именно так, насколько я помню, я впервые узнал о разнице между интенсиональным и экстенсиональным определениями. Дать «интенсиональное определение» — значит определить слово или фразу через другие слова, как это делается в словаре. Дать «экстенсиональное определение» — значит указать на примеры, как это делают взрослые, когда учат детей. Предыдущее предложение дает интенсиональное определение «экстенсионального определения», что делает его экстенсиональным примером «интенсионального определения».

В голливудском представлении о рациональности и в массовой культуре вообще «рационалистов» часто изображают как людей, одержимых словами и парящих в бесконечном вербальном пространстве, оторванном от реальности.

Однако настоящие традиционные рационалисты всегда настаивали на сохранении тесной связи с опытом:

«Если вы заглянете в учебник химии в поисках определения лития, вам могут сказать, что это элемент, атомный вес которого очень близок к 7. Но если автор обладает более логичным умом, он скажет вам, что если среди стекловидных, полупрозрачных, серых или белых, очень твердых, хрупких и нерастворимых минералов вы будете искать тот, который окрашивает несветящееся пламя в малиновый цвет, и если этот минерал растереть с известью или витеритовым крысиным ядом, а затем сплавить, его можно частично растворить в соляной кислоте; и если этот раствор выпарить, а остаток обработать серной кислотой и надлежащим образом очистить, его можно обычными методами превратить в хлорид, который, будучи получен в твердом состоянии, расплавлен и подвергнут электролизу с помощью полудюжины мощных гальванических элементов, выделит каплю розовато-серебристого металла, плавающего на поверхности бензина; и вещество этой капли и будет образцом лития».

— Чарльз Сандерс Пирс1

Это пример «логического ума» в представлении подлинного традиционного рационалиста, а не голливудского сценариста.

Но обратите внимание: Пирс на самом деле не показывает вам кусок лития. В его книге не было прикрепленных степлером кусочков лития. Вместо этого он дает вам карту сокровищ — интенсионально определенную процедуру, которая при ее выполнении приведет вас к экстенсиональному образцу лития. Это не то же самое, что просто бросить вам кусок лития, но и не то же самое, что сказать «атомный вес 7». (Хотя, если бы у вас были достаточно зоркие глаза, фраза «3 протона», возможно, позволила бы вам распознать литий с первого взгляда...)

Итак, перед нами интенсиональное и экстенсиональное определения — способ объяснить кому-то другому, что вы имеете в виду под тем или иным понятием. Когда выше я говорил об «определениях», я говорил о способе передачи понятий — о том, как объяснить кому-то другому, что вы подразумеваете под словами «красный», «тигр», «человек» или «литий». Теперь давайте поговорим о самих понятиях как таковых.

Реальным интенсионалом моего понятия «тигр» будет нейронный паттерн (в моей височной коре), который анализирует поступающий из зрительной коры сигнал, чтобы определить, тигр это или нет.

Реальным экстенсионалом моего понятия «тигр» будет всё то, что я называю тигром.

Интенсиональные определения не охватывают интенсионал целиком; экстенсиональные определения не охватывают весь экстенсионал. Если я покажу всего на одного тигра и скажу «тигр», коммуникация может не состояться, если собеседник подумает, что я имею в виду «опасное животное», «тигр-самец» или «желтая штука». Точно так же, если я скажу «опасное животное в желто-черную полоску», ни на что не указывая, слушатель может представить себе гигантских шершней.

Невозможно выразить словами все детали когнитивного понятия — в том виде, в каком оно существует в вашей голове, — которое позволяет вам отличать тигров от не-тигров. Оно слишком объемно. И вы не можете указать на всех тигров, которых когда-либо видели, не говоря уже обо всем, что вы могли бы назвать тигром.

Самые сильные определения используют перекрестный огонь интенсионального