Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

Пропустить примечания

*1 Паттерсон, 1978.

*2 Опубликовано здесь: www.koko.org/wp-content/uploads/2019/05/teok_book.pdf.

*3 Опубликовано здесь: www.independent.co.uk/climate-change/news/can-an-ape-learn-to-be-human-2332047.html.

*4 Террейс и др., 1979.

9. Смысл и бессмыслица.

В абсурдистской пьесе Сэмюэла Беккета «В ожидании Годо» главные герои — Владимир и Эстрагон — разговаривают бесконечно, ухитряясь при этом не сказать абсолютно ничего. Вот как GPT-4 представляет себе диалог в подобном ключе:

Эстрагон: Это ожидание — абсурд.

Владимир: Не больший абсурд, чем если бы мы не ждали.

Эстрагон: Значит, могло быть и хуже?

Владимир: Мог бы пойти дождь. Или снег. Или разразиться буря.

Эстрагон: Ах, погода. Это было бы хоть что-то.

Владимир: О чем поговорить?

Эстрагон: Чтобы развеять монотонность.

Владимир: Посмотри на нас: находим утешение в возможности плохой погоды.

Эстрагон: Лишь бы как-то скоротать время.

Владимир: Кстати, о времени — как думаешь, оно движется?

Эстрагон: Трудно сказать. Оно кружит вокруг нас.

Владимир: Или мы кружим вокруг него.

Эстрагон: Хождение по кругу. Мы топчемся на месте.

Владимир: Именно там, где нам и положено быть.

Эстрагон: Нигде, в ожидании Годо.

Вся пьеса состоит из подобных диалогов. Каждая реплика выглядит вполне логичным ответом на предыдущую, но разговор беспечно скачет с темы на тему, лишенный какого-либо общего повествовательного смысла. Персонажи словно навечно застыли в своего рода семантическом лимбе, где слова — лишь пустые сосуды, лишенные значения, а единственная цель каждого высказывания — поддерживать беседу ради нее самой.

Пьеса Беккета напоминает нам: то, что диалог на естественном языке звучит правдоподобно, еще не делает его осмысленным. Человеческое общение часто бывает глупым или пустым. Мы неверно понимаем друг друга, говорим каждый о своем или согласно киваем, втайне думая о чем-то более интересном. Я могу увильнуть от ответа, превратив ваше последнее утверждение в вопрос. Могу вставлять короткие слова согласия, подталкивая вас продолжать говорить (это называют бэкченнелингом), чтобы самому спокойно унестись мыслями куда-то далеко. Возможно, я не могу понять, о чем вы говорите, но притворяюсь, что все понял, дабы избежать долгих и утомительных объяснений. Может быть, я считаю, что вы неправы, но соглашаюсь из вежливости, чтобы избежать потенциально неловкого спора (сугубо британский порок). Иными словами, пока академические лингвисты корпят над моделированием языка как системы передачи смыслов с помощью строгих синтаксических правил, в реальной жизни наше общение — это скорее игра без правил. Слова и фразы служат социальным клеем — способом укрепить наши связи друг с другом — в той же степени (если не в большей), в какой они служат средством обмена достоверной информацией.

Самые ранние попытки создания систем обработки естественного языка в области искусственного интеллекта неизбежно опирались на этот факт. В середине 1960-х годов исследователь из Массачусетского технологического института (MIT) Джозеф Вейценбаум разработал один из первых чат-ботов (или «болтунов», как их тогда называли) под названием Элиза.[*1] Его вдохновил пример светской беседы на вечеринке (которая в Кембридже, штат Массачусетс, естественно, велась о квантовой физике):

«Я могу сказать вам: "Ну, это чем-то похоже на квантово-механическое то да се", а вы ответите: "Понимаю". Но ведь, возможно, вы ничего не понимаете. Может, вы вообще ничего не знаете о квантовой механике, кроме самых элементарных вещей [...] Вы даже можете попытаться выудить все возможное из скудного багажа своих квантово-механических знаний и сказать: "О, вы имеете в виду принцип Гейзенберга?", хотя на самом деле это все, что вам известно. А я отвечу: "Да, замечательно — вы действительно все понимаете", ну и все в таком духе».

Элиза была создана для имитации этой светской болтовни без малейших попыток наполнить диалог смыслом. Для этого она использовала скрипты — шпаргалки, которые Вейценбаум запрограммировал лично; каждая из них задавала шаблон для сопоставления входящих реплик с правдоподобными ответами. Например, Элиза могла распознать высказывание типа «Я думаю, что Х» и подобрать к нему кажущийся естественным ответ: «Что заставляет вас думать, будто Х?». Каждый скрипт представлял собой длинный список таких прописанных вручную правил. Самый известный из этих скриптов под названием «Доктор» предназначался для работы в сфере, где, по мнению Вейценбаума, можно было обойтись практически бессмысленным обменом репликами — в психотерапии. Психоаналитик Карл Роджерс выступал за преимущественно неструктурированную форму терапии, при которой клиенту предлагается исследовать собственные чувства, а терапевту — рефлексивно слушать и сопереживать. Иными словами, Элизе (в роли терапевта) не нужно было делать практически ничего, кроме как подталкивать клиента продолжать говорить. Вейценбаум рассудил, что если Элиза скажет какую-нибудь глупость, пользователь спишет это на загадочную, но почему-то важную часть терапевтического процесса.

Вейценбаум оказался прав. Элиза пользовалась огромным успехом, и многие пользователи с удовольствием часами болтали с ней, порой откровенно рассказывая о своих самых сокровенных проблемах. Одним из них был выдающийся специалист по компьютерным наукам, приехавший в MIT из Советского Союза. Одинокий и находящийся вдали от дома, он оказался буквально заворожен программой — и в итоге поделился глубоко личными переживаниями по поводу своего брака и разлаживающихся отношений с детьми, к крайнему смущению принимающей стороны. Сегодня легко найти сайты, где вы можете сами пообщаться с Элизой. Вот разговор, который приводит сам Вейценбаум:

Пользователь: Все мужчины одинаковы.

Элиза: В каком смысле?

Пользователь: Они вечно донимают нас по какому-нибудь поводу.

Элиза: Можете привести конкретный пример?

Пользователь: Ну, мой парень заставил меня прийти сюда.

Элиза: Ваш парень заставил вас прийти сюда?

Пользователь: Он говорит, что я почти всегда в депрессии.

Элиза: Мне жаль слышать, что вы в депрессии.

Сегодня под термином «эффект Элизы» понимают нашу склонность антропоморфизировать компьютеры, особенно чат-ботов, даже когда их действия или слова могут быть глупыми или бессмысленными. Он показывает, что мы — возможно, излишне — склонны авансом доверять компьютерам при оценке их языковых навыков. Элиза способна играть на наших слабостях в ведении беседы точно так же, как Ним умел пользоваться нашей щедростью на фрукты и щекотку. Но, пожалуй, нет ничего удивительного в том, что у нас столь низкая планка для приписывания владения языком другим агентам, учитывая, что — подобно персонажам «В ожидании Годо» — в наших собственных словах зачастую так мало смысла.

В ретроспективе Элиза кажется довольно странной системой NLP, поскольку она намеренно имитировала понимание — создавала иллюзию того, что улавливает суть сказанного, даже не пытаясь делать это на самом деле. Однако на рубеже 1960-х и 1970-х годов начался бурный расцвет попыток написать программы,