Квантовые вычисления со времен Демокрита - Скотт Ааронсон

Вы можете взглянуть на любой из этих примеров — Deep Blue, гипотеза Роббинса, Google, наконец, Watson — и сказать, что это не настоящий ИИ. Это всего лишь система массивного поиска, поддержанная хитроумными программами. Замечу, что от подобных разговоров исследователи ИИ начинают лезть на стену. Они говорят: если бы в 1960-е гг. вы сказали кому-нибудь, что через 30 лет мы сможем обыграть в шахматы гроссмейстера мирового уровня, и спросили бы, можно ли будет считать такую систему искусственным интеллектом, вам бы ответили: разумеется, это будет ИИ! Но теперь, когда мы знаем, как это сделать, никто уже не считает это настоящим ИИ — это просто поиск. (Философы тоже жалуются на подобное: как только некое направление философии дает какой-то конкретный результат, оно тут же перестает называться философией, а начинает именоваться математикой или физикой!)

И еще один момент, который мы сегодня осознаем, но который во времена Тьюринга еще не осознавали до конца. Дело в том, что мы, пытаясь моделировать человеческий интеллект, соревнуемся с миллиардом лет эволюции. А это чертовски сложно. Одно из неочевидных следствий этого обстоятельства заключается в том, что намного проще запрограммировать компьютер на победу над Гарри Каспаровым в шахматной игре, чем научить компьютер распознавать человеческие лица при разных условиях освещения. Часто наиболее сложными для ИИ задачами оказываются те, что с легкостью выполняет любой пятилетний ребенок: структуры для их выполнения так прочно встроены в мозг эволюцией, что мы даже не задумываемся о них.

Были ли за последние 60 лет новые озарения и прорывы в отношении теста Тьюринга? На мой взгляд, очень немного. С одной стороны, была знаменитая «попытка озарения», известная как Китайская комната Сёрла. Эта штука была предложена около 1980 г. как аргумент в пользу того, что даже компьютер, который пройдет тест Тьюринга, не будет по-настоящему разумным. Суть дела здесь примерно в следующем. Допустим, вы не говорите по-китайски. Вы сидите в закрытой комнате, и кто-то передает вам через окошечко в стене листочки бумаги с вопросами, написанными по-китайски. При этом вы, справляясь с некой книгой инструкций, можете отвечать на эти вопросы (тоже по-китайски). В результате вы можете вести осмысленную беседу на китайском языке, не понимая при этом (по условию) ни слова по-китайски! Получается, что манипуляции с символами не обеспечивают понимания.

Как мог бы сторонник сильного ИИ ответить на подобные аргументы? Ну, он мог бы сказать: вы, может, и не понимаете китайского, но это делает за вас инструкция! Или, если хотите, понимание китайского — это эмерджентное свойство системы, состоящей из вас самих и справочника, в том же смысле, в каком понимание родного языка есть эмерджентное свойство нейронов человеческого мозга.

Сёрл отозвался на эти возражения так: прекрасно, а теперь просто заучите книгу инструкций наизусть! После этого не будет уже никакой «системы», помимо вашего мозга, но вы по-прежнему не будете «понимать» китайский. На что сторонник ИИ отвечает: в этом случае тоже присутствует «система»! Предположим, вы заучили инструкцию, тогда нам следует различать «первоначального» вас и новое, смоделированное существо, родившееся в результате вашего следования заученным правилам, — существо, которое, может быть, объединяет с вами тот единственный факт, что вы с ним обитаете в одном черепе. Такой ответ может показаться безумным, но только человеку, который никогда не изучал информатику. Любой компьютерщик совершенно спокойно скажет, что один вычислительный процесс (скажем, интерпретатор языка LISP) может породить другой, никак с ним не связанный вычислительный процесс (скажем, игру по управлению космическим аппаратом) посредством просто строгого следования некоторым правилам.

Лично я не знаю — об этом мы поговорим чуть позже, — является ли вывод мысленного эксперимента с китайской комнатой верным или неверным. Я не знаю, какие условия необходимы или достаточны для того, чтобы какая-то физическая система «понимала» китайский язык; я уверен, что этого не понимает ни сам Сёрл, ни кто бы то ни было еще. Но если рассматривать историю с китайской комнатой как рассуждение, то в нем есть некоторые аспекты, которые меня всегда раздражали. Один из них — неосознанная апелляция к интуитивным понятиям («это всего лишь инструкция, чтобы просто зачитывать ответы») в вопросе как раз того сорта, где, как мы должны понимать, на интуицию можно полагаться меньше всего. Второе — это двойные стандарты: идея о том, что кучка нервных клеток может понимать китайский, принимается не просто как очевидная, но как совершенно беспроблемная и не вызывающая даже намека на вопрос о том, почему напечатанная инструкция не может тоже понимать китайский. Третье, что раздражает меня в истории с китайской комнатой, — то, как старается автор дистанцироваться от возможной ошибки при выборе картины, или, если сформулировать иначе, раздражает попытка обойти весь вопрос вычислительной сложности чисто за счет внешних атрибутов. Нам предлагается представить себе, как кто-то перебирает клочки бумаги без какого бы то ни было понимания или представления об их содержании — примерно как глупый первокурсник, который пишет в контрольной (a + b)² = a² + b². Но о каком количестве клочков бумаги мы говорим? Насколько толстой должна быть книга инструкций и с какой скоростью вы должны отыскивать в ней соответствующее место, чтобы вести осмысленную беседу по-китайски хотя бы приблизительно в реальном времени? Если бы каждая страница книги соответствовала одному нейрону мозга человека, для которого китайский — родной язык, то мы, вероятно, говорили бы о книге инструкций размером по крайней мере с Землю, нужное место на страницах которой искали бы полчища роботов, передвигающихся с околосветовой скоростью. Если рассматривать ситуацию именно так, то не так уж сложно, наверное, представить, что порожденная нами громадная китайскоязычная сущность может обладать чем-то, что мы готовы назвать пониманием или проникновением в суть[20].

Разумеется, все, кто говорит о подобных вещах, буквально на цыпочках обходят вопрос сознания. Понимаете, сознание обладает странным дуализмом: с одной стороны, есть мнение, что это самая загадочная из всех известных нам сущностей, а с другой — мы не только воспринимаем ее непосредственно, но в определенном смысле это единственная вещь, которую мы воспринимаем непосредственно. Ну, вы знаете: cogito ergo sum[21] и все такое прочее. К примеру, я в принципе могу ошибаться, считая, что на мне голубая рубашка, — может, у меня галлюцинации или еще что, — но я никак не могу ошибаться в том, что я воспринимаю ее голубой. (Ну а если могу, то это