Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

когнитивных процессов восходит к Декарту. Но соперник Декарта, Спиноза, был с ней не согласен; он предположил, что сначала мы пассивно принимаем утверждение в процессе его понимания и лишь затем активно отвергаем те положения, которые не выдерживают осмысления.

В последние несколько веков философы в основном соглашались с Декартом, поскольку его точка зрения казалась более, ну, знаете, логичной и интуитивно понятной. Но Гилберт нашёл способ проверить гипотезы Декарта и Спинозы экспериментально.

Если прав Декарт, то отвлечение внимания испытуемых должно мешать как принятию истинных утверждений, так и отвержению ложных. Если же прав Спиноза, то отвлечение внимания должно приводить к тому, что испытуемые будут запоминать ложные утверждения как истинные, но не должно приводить к запоминанию истинных утверждений как ложных.

Гилберт, Крулл и Мэлоун подтверждают этот вывод. Они показали, что у испытуемых, которым предъявлялись новые утверждения с пометками «ИСТИНА» или «ЛОЖЬ», отвлечение внимания никак не влияло на распознавание истинных утверждений (55% успеха без отвлечения против 58% при отвлечении), но влияло на распознавание ложных утверждений (55% успеха без отвлечения против 35% при отвлечении).1

Куда более яркая иллюстрация была получена в последующих экспериментах Гилберта, Тафароди и Мэлоуна.2 Испытуемые читали вслух отчёты о преступлениях, бегущие строкой по экрану монитора, причём цвет текста указывал на то, истинно конкретное утверждение или ложно. Некоторые отчёты содержали ложные утверждения, усугубляющие тяжесть преступления, в то время как другие отчёты содержали ложные утверждения, смягчающие (оправдывающие) его. Часть испытуемых во время чтения отчётов должна была также следить за рядами цифр в поисках пятёрки — это и было отвлекающим заданием для создания когнитивной занятости. В конце испытуемые должны были порекомендовать срок тюремного заключения для каждого преступника в диапазоне от 0 до 20 лет.

Испытуемые в условиях когнитивной занятости рекомендовали в среднем 11,15 года тюрьмы для преступников в «отягчающих» условиях, то есть тех, в чьих отчётах содержались помеченные как ложные утверждения, усугубляющие тяжесть преступления. Занятые испытуемые рекомендовали в среднем 5,83 года тюрьмы для преступников, в чьих отчётах содержались помеченные как ложные утверждения, смягчающие преступление. Эта почти двукратная разница была, как вы можете догадаться, статистически значимой.

Свободные от нагрузки участники читали точно такие же отчёты с теми же пометками, и перед ними так же время от времени пробегали строки цифр, однако им не нужно было искать пятёрку. Таким образом, они могли уделять больше внимания «разуверению» в утверждениях, помеченных как ложные. Эти свободные участники рекомендовали в среднем 7,03 года против 6,03 года для преступников, в чьих отчётах содержались ложные отягчающие или ложные смягчающие сведения.

Статья Гилберта, Тафароди и Мэлоуна называлась «Вы не можете не верить всему, что читаете».

Это говорит — как минимум — о том, что нам следует быть осторожнее, когда мы сталкиваемся с недостоверной информацией, особенно если мы заняты в этот момент чем-то ещё. Будьте внимательны, когда просматриваете газету в супермаркете.

P. S. Согласно неподтверждённым слухам, которые я только что выдумал, люди будут менее скептически относиться к этому эссе из-за отвлекающей смены цветов.

*

1. Daniel T. Gilbert, Douglas S. Krull, and Patrick S. Malone, “Unbelieving the Unbelievable: Some Problems in the Rejection of False Information,” Journal of Personality and Social Psychology 59 (4 1990): 601–613, doi:10.1037/0022-3514.59.4.601.

2. Gilbert, Tafarodi, and Malone, “You Can’t Not Believe Everything You Read.”

90. Кэшированные мысли.

Одна из величайших загадок человеческого мозга заключается в том, как эта чертова штука вообще работает, ведь большинство нейронов срабатывают всего 10–20 раз в секунду, от силы 200 Гц. В нейробиологии «правило ста шагов» гласит, что любая гипотетическая операция должна завершаться максимум за 100 последовательных шагов — вы можете распараллеливать процессы сколько угодно, но нельзя предполагать более 100 (а лучше меньше) последовательных нейронных импульсов.

Представляете, каково это — программировать под процессоры с частотой 100 Гц, сколько бы их у вас ни было? К тому же вам понадобилось бы сто миллиардов процессоров просто для того, чтобы делать хоть что-то в режиме реального времени.

Если бы вам действительно понадобилось писать программы реального времени для ста миллиардов 100-герцевых процессоров, один прием вы использовали бы максимально активно — кэширование. Это когда вы сохраняете результаты предыдущих операций и в следующий раз просто извлекаете их, вместо того чтобы вычислять заново с нуля. И это очень нейронный прием — распознавание, ассоциация, достраивание шаблона.

Вполне вероятно, что на самом деле большая часть человеческого мышления сводится к обращениям к кэшу.

Эта мысль действительно частенько приходит мне в голову в определенные моменты.

Была одна на удивление показательная история, которую я, как мне казалось, сохранил в закладках, но так и не смог найти: история об одном человеке, чей сосед-всезнайка как-то вскользь обмолвился, что лучший способ снести дымоход в доме — это разломать камин, подождать, пока кирпичи упадут на уровень ниже, выбить их и повторять так до тех пор, пока от дымохода ничего не останется. Годы спустя, когда этот человек решил снести собственный дымоход, эта кэшированная мысль затаилась, поджидая момента для прыжка...

Как отметил этот человек впоследствии (нетрудно догадаться, что всё закончилось плохо), его сосед не особо разбирался в таких вопросах и совсем не заслуживал доверия. Если бы он подверг сомнению эту идею, он, вероятно, понял бы, насколько она плоха. Некоторые попадания в кэш нам стоило бы вычислять заново. Но мозг достраивает шаблон автоматически — и если вы сознательно не поймете, что шаблон нуждается в исправлении, вы останетесь с уже готовым шаблоном.

Подозреваю, что если бы эта мысль пришла в голову самому человеку — если бы лично ему пришла эта блестящая идея, как убрать дымоход, — он изучил бы ее более критически. Но если кто-то другой уже всё обдумал, можно ведь сэкономить вычислительные ресурсы, просто закэшировав его вывод, верно?

В современной цивилизации никто не может думать достаточно быстро, чтобы думать свои собственные мысли. Если бы во младенчестве меня бросили в лесу и я вырос среди волков или молчаливых роботов, во мне едва ли можно было бы узнать человека. Никто не способен думать так быстро, чтобы за одну жизнь с нуля воспроизвести мудрость племени охотников-собирателей. Что уж говорить о мудрости письменной цивилизации.

Но оборотная сторона состоит в том, что я постоянно вижу людей, стремящихся к критическому мышлению, которые лишь повторяют кэшированные мысли, придуманные вовсе не критически мыслящими людьми.