Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

АЛЬБЕРТ: «Дерево, падающее в безлюдном лесу, издает звук».

БАРРИ: «Дерево, падающее в безлюдном лесу, не издает звука».

Очевидно, раз один говорит «звук», а другой — «не звук», перед нами явное противоречие, верно? Но предположим, что перед тем как заговорить, они оба разыменовывают свои указатели:

АЛЬБЕРТ: «Дерево, падающее в безлюдном лесу, соответствует критерию [проверка на принадлежность: это событие порождает акустические колебания]».

БАРРИ: «Дерево, падающее в безлюдном лесу, не соответствует критерию [проверка на принадлежность: это событие порождает слуховые ощущения]».

Теперь кажущееся противоречие исчезло — им всего лишь нужно было запретить себе использовать слово «звук». Если бы спор зашел об «акустических колебаниях», мы бы снова сыграли в «Табу» и сказали «волны давления в материальной среде»; при необходимости мы бы еще раз сыграли в «Табу» со словом «волна» и заменили его волновым уравнением. (Сыграйте в «Табу» со «слуховыми ощущениями», и вы получите: «Та форма сенсорной обработки в человеческом мозге, которая принимает на входе линейный временной ряд частотных смесей...»)

Но предположим, с другой стороны, что спор между Альбертом и Барри выглядел бы так:

АЛЬБЕРТ: «Сократ соответствует концепту [проверка на принадлежность: этот человек умрет после того, как выпьет цикуту]».

БАРРИ: «Сократ соответствует концепту [проверка на принадлежность: этот человек не умрет после того, как выпьет цикуту]».

Здесь у Альберта и Барри возникает содержательное столкновение ожиданий; разница в том, что именно они ожидают увидеть после того, как Сократ выпьет цикуту. Но они могли бы этого и не заметить, если бы случайно использовали одно и то же слово «человек» для своих различных концептов.

Картина того, в чем люди согласны или несогласны друг с другом, оказывается совершенно разной в зависимости от того, смотрите ли вы с точки зрения ярлыков (Альберт говорит «звук», а Барри — «не звук», значит, они расходятся во мнениях) или же с точки зрения проверок (для Альберта проверка на принадлежность — это акустические колебания, а для Барри — слуховые ощущения).

Соберите вместе кучку самопровозглашенных футуристов и спросите их, верят ли они, что через тридцать лет у нас появится искусственный интеллект, и, подозреваю, как минимум половина ответит «да». Если на этом остановиться, они пожмут друг другу руки и поздравят себя с достигнутым консенсусом. Но наложите табу на термин «искусственный интеллект» и попросите их описать, что именно они ожидают увидеть, вообще не используя такие слова, как «компьютеры» или «мыслить», и под этим безликим стандартным словосочетанием вы обнаружите изрядный конфликт ожиданий. См. также составленную Шейном Леггом подборку из 71 определения «интеллекта».

Иллюзию единства религий можно развеять, наложив табу на термин «Бог» и попросив верующих рассказать, во что именно они верят; или наложив табу на слово «вера» и спросив, почему они в это верят. Хотя по большей части они вообще не смогут ответить, поскольку это всего лишь декларация веры, а когнитивно приблизить аудиозапись невозможно.

Когда вы оказываетесь в затруднительном положении в философских вопросах, первый рубеж обороны — не давать определения проблемным терминам, а проверить, можете ли вы вообще мыслить без них. Или без использования их коротких синонимов. И следите за тем, чтобы не изобрести взамен новое слово. Описывайте внешние наблюдаемые явления и внутренние механизмы; не пользуйтесь одним-единственным ярлыком, каким бы он ни был.

Альберт говорит, что у людей есть «свобода воли». Барри утверждает, что «свободы воли» у людей нет. Что ж, это определенно создаст видимость конфликта. Большинство философов посоветовали бы Альберту и Барри попытаться точно определить, что именно они понимают под «свободой воли», и на эту тему они, несомненно, смогут пространно рассуждать. Я же посоветую Альберту и Барри описать то, что, по их мнению, у людей есть (или чего у них нет), вообще не используя словосочетание «свобода воли». (Если вы хотите попробовать это дома, вам также следует избегать слов «выбирать», «действовать», «решать», «предопределено», «ответственность» или любых их синонимов.)

Это один из нестандартных инструментов в моем арсенале, и, по моему скромному мнению, он работает гораздо, гораздо лучше стандартного. Кроме того, его использование требует больше усилий; вы получаете ровно то, за что платите.

*

168. Замените символ сутью.

Что нужно для того, чтобы — как в примере из предыдущего эссе — увидеть «бейсбольный матч» как «искусственный групповой конфликт, в котором вы используете длинный деревянный цилиндр, чтобы ударить по брошенному сфероиду, а затем бегаете между четырьмя безопасными позициями»? Что нужно, чтобы сыграть в рационалистическую версию «Табу», в которой цель — не найти синоним, отсутствующий на карточке, а найти способ описания без использования стандартного понятийного ярлыка?

Вам нужно визуализировать. Вам нужно заставить свой мысленный взор увидеть детали, будто вы смотрите на них впервые. Вам нужно осуществить первичное видение.

Это «бита»? Нет, это длинный, круглый, сужающийся деревянный стержень, который на одном из концов становится совсем узким, чтобы человек мог ухватиться за него и сделать замах.

Это «мяч»? Нет, это обтянутый кожей сфероид с симметричным узором из швов, твёрдый, но не как металл, который можно схватить и бросить, или ударить по нему деревянным стержнем, или поймать.

Это «базы»? Нет, это фиксированные позиции на игровом поле, до которых игроки стараются добежать как можно быстрее из-за их безопасности в рамках искусственных правил игры.

Главное препятствие для первичного видения заключается в том, что в вашем уме уже есть красивый, аккуратный итог, удобный маленький понятийный ярлык. Вроде слова «бейсбол», «бита» или «база». Требуется усилие, чтобы удержать свой ум от скольжения по привычному пути, легкому пути, пути наименьшего сопротивления, на котором короткое безликое слово врывается и стирает детали, которые вы пытаетесь разглядеть. Слово само по себе может обладать разрушительной силой клише; слово само по себе может нести яд кэшированной мысли.

Игра в «Табу» — способность описывать вещи без использования стандартного указателя, ярлыка или названия — это одна из фундаментальных способностей рационалиста. Она находится на том же базовом уровне, что и привычка постоянно спрашивать «Почему?» или «Что это убеждение заставляет меня ожидать?»

Это искусство тесно связано с:

Прагматизмом, поскольку такое видение часто обеспечивает гораздо более тесную связь с ожидаемым опытом, нежели с пропозициональным убеждением;

Редукционизмом, поскольку такое видение часто заставляет вас спуститься на более низкий уровень организации, смотреть на части вместо того, чтобы скользить взглядом по целому;

Близостью к вопросу, поскольку слова часто отвлекают вас от вопроса, который вы