Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

Дуглас Ленат, обыгрывая весьма успешный проект «Геном человека» (который картировал весь набор пар нуклеотидных оснований, составляющих ДНК человека), назвал его проектом «Мемо́м человека» (Human Memome Project).[*2]

Сколько именно знает среднестатистический человек? Мы начали этот раздел с утверждения, что человеческий разум обладает огромным объемом здравого смысла — но можно ли его измерить количественно? Авторы проекта Cyc начали с прикидочных расчетов, предположив, что люди знают около трех миллионов правил здравого смысла, таких как «у всех кошек есть хвосты», «все вороны умеют летать» и «ни один слон не умеет летать». По их оценкам, на кодирование одного нового правила в систему уходит чуть больше часа, так что здравый смысл не по годам развитого ребенка мог бы быть записан одним сотрудником примерно за два тысячелетия — или всего за два года, если бы они наняли команду из тысячи помощников. За финансированием они обратились в секретное грантовое ведомство американских военных — Агентство перспективных оборонных исследовательских проектов (DARPA), известное своей любовью к дерзким проектам уровня «полета на Луну», таким как искусственная кровь, летающие подводные лодки и насекомые-киборги. Получив финансирование, команда принялась за дело: они прочесывали «Британскую энциклопедию», читали детские сказки на ночь и расспрашивали неугомонных ребятишек, пытаясь задокументировать основы того, что знает каждый.

Спустя четыре десятилетия они создали колоссальную онтологию — каталог человеческих знаний, организованный в виде гигантской систематизированной сети взаимосвязанных понятий, включающий более тридцати миллионов правил здравого смысла — в десять раз больше первоначальной оценки. Они также построили мощный механизм логического вывода, способный выстраивать утверждения в длинные цепочки следствий, целью которого было получение новых сложных умозаключений о мире. И вот, наконец, — система, способная применять разум ко всему, что мы знаем. Сбылась ли мечта Лейбница — спустя 300 лет после того, как он впервые задумался о систематизации мировых знаний в автоматизированной мегаэнциклопедии?

Увы, нет. Cyc не был провалом — проект доказал свою полезность в нескольких специализированных областях, таких как каталогизация террористических группировок для правительства США или помощь ученикам шестого класса с домашней работой по математике. Но Ленат был вынужден признать, что более амбициозная цель — создать символьную систему, способную к универсальному мышлению, подобно человеку, — мертва. К началу нового тысячелетия стало ясно, что конструирование машин, которые рассуждают о мире так, будто он представляет собой огромную, стройную логическую систему, — это не тот путь, который ведет к воспроизведению человеческого интеллекта. И дело было не в том, что аппаратное обеспечение было слишком медленным. Известный принцип, называемый законом Мура, гласит, что скорость обработки данных удваивается примерно каждые два года. Благодаря этому экспоненциальному ускорению компьютеры работали более чем в тридцать миллионов раз быстрее, чем во времена, когда Ньюэлл и Саймон создали GPS почти пятьдесят лет назад. И причина была вовсе не в отсутствии усердия — в этом легко убедиться на примере таких масштабных и трудоемких проектов, как Cyc. Так что же пошло не так? Почему мы не можем закодировать все человеческие знания в доступной для машин форме, чтобы искусственный мыслитель мог использовать силу логики и открывать нам удивительные новые истины об окружающем мире?

Ответ возвращает нас к вопросу о том, на что больше похожа жизнь — на шахматы или на катание на коньках. Существует ли фиксированный набор правил, который систематически управляет тем, как устроен мир? Конечно, как полагал Лейбниц, у всякой причины действительно есть следствие, и в конечном счете мир функционирует по законам физики. Но человеческое мышление происходит не на том атомарном уровне, на котором действуют эти законы. Наши знания формируются не на уровне протонов и кварков, а касаются таких вещей, как цыпленок тандури, Багз Банни и Организация Объединенных Наций. На этом уровне объектов, категорий и функций — уровне, на котором оперирует логика первого порядка, — окружающий мир невозможно смоделировать с помощью простого набора логических правил. Мир оказался гораздо более хаотичным и противоречивым местом, чем мог себе представить Лейбниц. Подобно непредвиденным бороздам или выбоинам на поверхности ледового катка, даже самые безобидные на первый взгляд утверждения здравого смысла имеют множество исключений. Факты здравого смысла требуют бесконечных оговорок. Разумеется, у кошек есть хвосты — за исключением мэнксов, родом с острова Мэн в Великобритании, породы гордых бесхвостых кошек. Конечно же, вороны летают — если только им не подрезали крылья или они не мертвы. Само собой, слоны не летают — но что, если поместить одного из них в огромный грузовой самолет «Антонов»? А как же Дамбо? Человеческие знания, по всей видимости, просто не поддаются кодированию исключительно на формальном, логическом языке — они слишком противоречивы, слишком зависят от контекста и содержат слишком много пограничных ситуаций. Попытка вручную каталогизировать все человеческие знания — это практически бесконечная кроличья нора, нескончаемая задача, масштабы которой растут по мере продвижения вперед.

Мечта рационалистов состоит в том, что наши знания можно разложить по полочкам и аккуратно упорядочить, подобно переключателям на телефонной станции, деталям в коробке Lego или адресуемой памяти настольного компьютера. Но мир устроен иначе. Жизнь не похожа на шахматную партию, где при каждой игре действуют одни и те же правила. Жизнь не похожа на математику, где все ответы однозначно верны или неверны. Мир хаотичен и полон исключений. Он больше похож на безумную телефонную станцию с огромным морем перекрещивающихся коммутаторов, где каждый раз, когда вы набираете номер, вас соединяют с тридцатью людьми, которых вы знаете лишь отчасти. Это словно самый раздражающий конструктор Lego, какой только можно себе представить, где каждая деталь подходит лишь к ничтожно малой части других деталей, а все инструкции безвозвратно утеряны. И хотя логические рассуждения, безусловно, полезны, принципы, которые лучше всего помогают нам понимать окружающий мир, невозможно записать на таком формальном языке, как логика предикатов.

Поэтому, чтобы создавать системы, работающие в реальном мире, сфера ИИ твердо переориентировалась на эмпирическую традицию. Первые шаги на пути к созданию машин, обладающих реальными знаниями, были сделаны тогда, когда специалисты по компьютерным наукам задались вопросом: можно ли построить систему, которая учится подобно человеку, соединив вместе сеть искусственных нейронов. В конечном счете это привело к появлению единого, повсеместно используемого инструмента для исследований в области ИИ — глубокой нейронной сети. Но, как мы увидим далее, культурная война между рационалистами и эмпириками не утихла. Вместо этого дискуссия теперь сосредоточена на том, стоит ли заменять одну бескомпромиссную философию другой — должны ли мы просто заменить машины, оперирующие исключительно символами, на гигантские глубокие сети? Или же нам нужны системы, которые явно