Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

*

1. Джерри Кливер, Immediate Fiction: A Complete Writing Course (Macmillan, 2004).

65. Рациональность и английский язык.

В ответ на мое обсуждение ламп «аплодисменты» кто-то заметил, что мой слог напоминает эссе Джорджа Оруэлла «Политика и английский язык».1 Мне это польстило. Тем более что я уже размышлял над сегодняшней темой.

Если вы действительно хотите увидеть взгляд художника на рациональность, то почитайте Оруэлла; его труды обязательны к прочтению как для рационалистов, так и для писателей. Оруэлл был не ученым, а писателем; его инструментами были не числа, а слова; его противником была не Природа, а человеческое зло. Если вы хотите сажать людей за решетку на годы без суда, вам придется придумать иной способ выразить это, нежели «Я собираюсь упечь мистера Дженнингса за решетку на годы без суда». Вам нужно затуманить мышление слушателя, помешать ясным образам возмутить его совесть. Вы говорите: «Ненадежные элементы были подвергнуты процедуре альтернативного правосудия».

Оруэлл был яростным противником тоталитаризма и туманного мышления, в которое рядится зло, — именно поэтому труды Оруэлла о языке вошли в классику рационалистической мысли наряду с работами Фейнмана, Сагана или Докинза.

«Писателям советуют избегать использования страдательного залога». Рационалист, чей бэкграунд сформирован исключительно наукой, может не заметить изъяна в предыдущем предложении; но любой, кто хоть немного писал сам, увидит его сразу. Я написал это предложение в страдательном залоге, не сказав вам, кто именно советует авторам избегать страдательного залога. Страдательный залог убирает действующее лицо, оставляя лишь объект действия. «Ненадежные элементы были подвергнуты процедуре альтернативного правосудия» — подвергнуты кем? Что делает эта «процедура альтернативного правосудия»? С помощью достаточного количества статичных отглагольных существительных можно сделать так, чтобы ничто неприятное вообще не происходило.

Научные статьи часто пишутся в страдательном залоге. (Прошу прощения, некоторые ученые пишут свои статьи в страдательном залоге. Не сами же статьи пишутся, и винить в этом некого.) Звучит солиднее сказать: «Испытуемым вводился Прогениторивокс», чем «Я дал каждому студенту баночку с двадцатью таблетками Прогениторивокса и велел принимать по одной каждый вечер, пока они не закончатся». Если убрать ученого из описания, останутся только сверхважные данные. Но на самом деле ученый там есть, а испытуемые — это обычные студенты, и Прогениторивокс не «вводился», а выдавался на руки вместе с инструкциями. Страдательный залог затушевывает реальность.

Судя по комментариям, которые я получаю, кто-нибудь обязательно возразит, что использование страдательного залога в научных статьях вряд ли можно назвать грехом — в конце концов, если подумать об этом, можно понять, что ученый никуда не делся. Логической ошибки здесь вроде как нет. И именно поэтому рационалистам нужно читать Оруэлла, а не только Фейнмана или даже Джейнса.

Нехудожественная литература передает знание, художественная — переживание. Медицинская наука может экстраполировать, что произойдет с человеком без защиты в вакууме. Художественная литература заставит вас пережить это.

Некоторые рационалисты попытаются проанализировать двусмысленную фразу, постараются разглядеть, может ли вообще в ней скрываться какой-то смысл, попробуют выстроить логическую интерпретацию. Они проявят снисходительность, истолкуют сомнения в пользу автора. Писателей же, напротив, учат не давать себе поблажек. Всё, что, как думает аудитория, вы сказали, и есть то, что вы сказали, независимо от ваших намерений; вы не можете спорить с читателями, какими бы изощренными ни были ваши оправдания.

Писатель знает, что читатели не станут останавливаться ни на секунду, чтобы поразмыслить. Художественное переживание — это непрерывный поток первых впечатлений. Писатель-рационалист обращает внимание на то, какое переживание создают слова. Если вы оцениваете публичную рациональность высказывания и при этом рассудочно анализируете слова, перефразируя суждения, примеряя разные смыслы и выискивая крупицы правдоподобия, то упускаете из виду первое впечатление — то, что аудитория видит или, вернее сказать, чувствует.

Романист заметил бы вопиющую неестественность фразы «Испытуемым вводился Прогениторивокс». Какую жизнь может прожить здесь читатель? Это предложение создает лишь далекое ощущение авторитетности, и всё — единственное переживание сводится к чувству, что тебе сообщают нечто достоверное. Романист увидел бы за этим слишком абстрактные существительные, не способные показать, что произошло на самом деле: постдока с баночкой в руке, пытающегося выглядеть строго, и студента, слушающего его с нервной ухмылкой.

Я вовсе не пытаюсь сказать, что научные статьи должны писаться как романы, но рационалист должен осознавать переживания, которые создают слова. Рационалист должен понимать разум и уметь им управлять. Это включает в себя и поток сознания — ту часть вас, которая развертывается в языке. Рационалист должен осознавать реальное, переживаемое на опыте воздействие фраз, выходящее далеко за рамки их чисто пропозициональной семантики.

Или, говоря более прямо: Смысл не оправдывает воздействие!

Мне все равно, какую рациональную интерпретацию вы можете выстроить для лампы «аплодисменты» вроде «ИИ должен разрабатываться посредством демократических процессов». Это не может служить оправданием ее иррационального эффекта — подачи сигнала залу рукоплескать, не говоря уже о ее туманной, предвосхищающей ответ неопределенности.

А вот Оруэлл, обрушивающийся на воздействие клише, на их влияние на сам процесс мышления:

Когда наблюдаешь за каким-нибудь уставшим писакой на трибуне, механически повторяющим привычные фразы — ЗВЕРСТВА, ЗЛОДЕЯНИЯ, ЖЕЛЕЗНАЯ ПЯТА, КРОВАВАЯ ТИРАНИЯ, СВОБОДНЫЕ НАРОДЫ МИРА, СТОЯТЬ ПЛЕЧОМ К ПЛЕЧУ, — часто возникает странное ощущение, что перед тобой не живой человек, а какой-то манекен... Оратор, использующий подобную фразеологию, уже проделал изрядный путь к превращению себя в машину. Из его гортани выходят нужные звуки, но мозг в этом не участвует — в отличие от ситуации, когда он выбирал бы слова сам...

Прежде всего нужно позволить смыслу выбирать слово, а не наоборот. В прозе худшее, что можно сделать со словами, — это сдаться им. Когда вы думаете о конкретном предмете, вы думаете без слов, а затем, если хотите описать то, что мысленно представили, вы, скорее всего, ищете, пока не найдете точные, подходящие слова. Когда же вы думаете о чем-то абстрактном, вы более склонны использовать слова с самого начала, и, если не сделать сознательного усилия, чтобы этому помешать, готовый жаргон хлынет потоком и сделает работу за вас — ценой размывания или даже искажения вашего смысла. Пожалуй, лучше как можно дольше откладывать использование слов и прояснять свой смысл, насколько возможно, с помощью образов и ощущений.

Чарльз Сандерс Пирс вполне мог бы написать этот последний абзац. К Пути может вести не одна дорога.

*