Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов

Мы не можем объяснить, как именно эти триллионы нейронных связей создают в нас «теорию разума» другого человека, потому что сама эта способность является нашим базовым, бессознательным программным обеспечением. Она — часть той самой «машины мышления», которая работает «под капотом» нашего сознания.

Именно поэтому мы не можем дать ИИ «инструкцию» по созданию нашего внутреннего мира: мы не можем вытащить из себя «код», который, по сути, и составляет основу нашего социального бытия. Мы можем дать машине только тексты, но не тот живой, воплощённый, телесный, эмоциональный, чувственный опыт, который и запускает весь этот грандиозный, но невидимый для нас механизм.

Так что «проблема выравнивания» — то есть вопрос качественного согласования наших долгосрочных целей с целями ИИ — не имеет решения[204][205]. Наши цели — то, что возникает в пространстве мира психической реальности, к которой у ИИ просто нет доступа.

Мы пытаемся объяснить цели, рождённые сложной структурой нашего «социального мозга» в трёхуровневой системе нашего «я», разуму, который существует лишь на одном, последнем из этих уровней, причём весьма специфическим образом. Он не может понять наших целей, а то, что мы сами можем ему на этот счёт рассказать, на самом деле не сильно помогает.

Проблема аутизма

Аутичный мозг — это специализированная машина для обнаружения закономерностей.

Он ищет в мире паттерны вида «если — то» и по этой причине является двигателем человеческой изобретательности.

Саймон Барон-Коэн

Наша, человеческая, «теория разума» (ТоМ) — это сложнейший динамический синтез, создаваемый нашими «я» — телесным, социальным, сознательным. Мы не только интуитивно «читаем» поведение, как приматы, а можем интуитивно моделировать чужие «внутренние миры»: понимать мотивации других людей, их взгляды и отношения, аргументы и мировоззренческие установки, их личные истории и глубинные переживания.

Когда мы утешаем друга, мы задействуем все три уровня: мы телесно резонируем с его печалью («телесное я»), интуитивно считываем его потребность и характер необходимой поддержки («социальное я») и строим такую модель переживаний другого, чтобы обеспечить необходимые именно этому человеку аргументы («сознательное я»).

Впрочем, давайте ещё раз это проговорим — те «внутренние миры» других людей, с которыми, как нам кажется, мы имеем дело, не являются их «внутренними мирами». Их реальные «внутренние миры» сильно отличаются от наших представлений о том, что «происходит в душе другого человека» (чужая душа, как известно, потёмки).

Однако у нас нет сомнений, что мы сообщаемся с реальностью «внутреннего мира» другого человека, когда взаимодействуем с ним. Мы не понимаем, что на самом деле мы можем только создавать (воображать) его внутренний мир в своей голове. Это крайне устойчивая психологическая иллюзия.

В психиатрии есть достаточно редкий, но показательный в этом отношении синдром — синдром Капгра (или отрицательного двойника). Он встречается у пациентов с шизофренией и при некоторых дегенеративных заболеваниях мозга. Такому человеку начинает казаться, что его близких или знакомых «внутри» подменили — кто-то вселился в их тело, и теперь эти «некто» пытаются выдать себя за его близких, хотя это не так.

Философам, в частности Роберту Кирку[206] и Дэвиду Чалмерсу, пришлось даже выдумать «философского зомби», чтобы объяснить странность наших представлений о «чужом сознании».

Представьте, что вы знакомитесь с человеком, общаетесь с ним как ни в чём ни бывало, может быть, успеваете подружиться или влюбиться, и вдруг выясняется, что это не человек, а очень хорошо сделанный робот — машина без чувств и переживаний, которая лихо имитирует человека.

Это и есть «философский зомби» — некое существо, которое только имитирует, что у него есть «душа». Но зачем философам понадобился столь странный «мысленный эксперимент»?

Просто для того, чтобы показать, что мы на самом деле не знаем, что у других людей есть сознание. Да, мы так думаем, и, скорее всего, мы даже правы. Но знать об этом доподлинно мы не можем, потому что у нас нет доступа к чужому сознанию.

Мы лишь проецируем на других людей то, как мы понимаем свой собственный «внутренний мир», поскольку они, во-первых, похожи на нас, во-вторых, нас так учили в детстве и юности («Ты должен думать о том, что другой человек чувствует!»), в-третьих, у нас есть тот самый «социальный мозг», который и позволяет провернуть такой фокус — увидеть невидимое.

Впрочем, не у всех этот «социальный мозг» работает как следует. Именно таким людям психиатры и ставят диа-гноз «расстройство аутистического спектра», или просто аутизм.

Диагностический тест

Сложнейший механизм «теории разума» работает настолько автоматически, что человечество ещё до недавнего времени даже не подозревало о его существовании. Способность видеть в других людях невидимое — то, что происходит внутри их головы, — что-то для нас настолько же естественное, как воздух, и мы заметили этот «воздух», лишь когда смогли осмыслить то, что происходит, когда он отсутствует.

Ключевую роль здесь сыграли исследования психолога Саймона Барона-Коэна[207]. В 1985 году он вместе с коллегами Аланом Лесли и Утой Фрит применил простой, но гениальный тест на ложные убеждения к детям с аутизмом[208].

В ходе эксперимента детям показывали двух кукол: Салли (у которой была корзинка) и Энн (у которой была коробка). Салли кладёт шарик в корзинку и выходит из комнаты. Пока Салли нет, Энн достаёт шарик из корзинки и прячет его в своей коробке. Когда же Салли возвращается в комнату, ребёнку задают три вопроса:

• «Где Салли будет искать свой шарик?» — вопрос на «веру»;

• «Где на самом деле находится шарик?» — вопрос о «реальности»;

• «Где изначально был шарик?» — вопрос на «память».

Ключевой вопрос — вопрос о «вере».

• Если ребёнок указывает на корзинку, куда Салли положила шарик, значит, он понимает, что представления Салли об окружающем мире не отражают реального положения дел, — дети учитывают, что она не видела, как шарик переложили.

• Если же ребёнок указывает на коробку — он не справился с заданием, потому что не учёл, что у него есть знания, которыми Салли не обладает, потому что не была свидетелем события по перекладыванию шарика.

Вопросы о «реальности» и «памяти», по сути, являются контрольными условиями — ребёнок должен ответить на них правильно. Если он не справится, значит, он просто не понял, что происходит.

В оригинальном исследовании Барона-Коэна и его коллег были протестированы три группы детей:

• дети с типичным развитием (в возрасте около 4 лет);

• дети с синдромом Дауна (со средним возрастом около 11 лет);

• дети с аутизмом (в возрасте около 12 лет).

У детей с типичным развитием