Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

четырех уставленных книгами стен библиотеки. К счастью, однако, читатель обеспечен безлимитным запасом вкуснейшего пад-тая и кокосовой воды, так что он может оставаться в библиотеке вечно, перечитывая каждую книгу столько раз, сколько пожелает. Вопрос в следующем: сможет ли он когда-нибудь начать понимать тайский язык так же, как его носитель?

Тайская письменность представляет собой красивую абугиду, состоящую из плавных, округлых знаков,[*3] но если вы не являетесь носителем языка, его расшифровка кажется пугающе трудной задачей, даже если бы у вас в распоряжении была целая вечность. Представьте себя запертым в библиотеке и пытающимся выучить тайский подобно БЯМ: вы целый день закрываете следующее слово в предложении и угадываете, каким оно может быть. Кажется немыслимым, что вы когда-нибудь сможете «понять» тайский язык, сколько бы времени вы ни провели в заточении. Представим, что после десятилетий усердного изучения закономерностей в последовательностях символов вы можете безошибочно предсказать, как продолжится любое тайское предложение. В этот момент дверь наконец открывается, и в комнату въезжает обезьяна на велосипеде. Как бы вы ни были взволнованы этим странным вторжением, вы никак не сможете узнать, что

(ling) обозначает обезьяну, а (jakrayan) — велосипед, а не (скажем) наоборот. Тот факт, что часто встречается рядом с колесом (lô), а — с бананом (kluay), мало чем вам поможет, если поможет вообще. Возможно, это раз и навсегда показывает нам, что языковые модели не способны понимать то, о чем они говорят, — их слова не имеют значения, поскольку они не подкреплены данными извне их обучающего корпуса, где на самом деле существуют реальные обезьяны, велосипеды и бананы.

Мы, люди, постоянно погружены в головокружительные объемы сенсорной информации. Сетчатка каждого глаза обладает разрешением около 120 мегапикселей, что сопоставимо с самыми передовыми современными камерами, а зрительные сигналы передаются по зрительному нерву с миллисекундной точностью. Уши соединены с мозгом посредством 30 000 нервных волокон, каждое из которых способно передавать нейронные сигналы частотой до 1000 Гц. Эти зрительные и слуховые сигналы объединяются с обонятельными и вкусовыми ощущениями, а также с тактильными данными (от кожи), даруя нам удивительное, калейдоскопическое, мультисенсорное восприятие мира. В отличие от БЯМ, вы можете на собственном опыте прочувствовать лазурь летнего неба и тягучую сладость меда, едкий запах горящего пластика или сердитое жужжание шершня за стеклом. Люди, в отличие от БЯМ, учатся связывать слова с этим опытом, а не просто с другими словами. Когда мы слышим слово «шершень», наш мозг предвосхищает звук жужжания, а не просто связанные с ним понятия вроде «жало» и «гнездо». Можно сказать, что человеческое познание является как иконическим, так и символическим: наши ментальные представления о мире принимают форму как образов, так и суждений. Вы, вероятно, можете довольно живо воссоздать описанные выше ощущения мысленным взором, не описывая их себе словами с помощью внутренней речи (или мысленного слуха, или мысленного обоняния, хотя запахи порой представить труднее). Лишь немногие люди с редким состоянием, называемым афантазией, отмечают, что они принципиально не могут произвольно создавать мысленные образы. Можно с уверенностью утверждать, что современные текстовые БЯМ, которые никогда не видели реального мира и, следовательно, не имеют иконических репрезентаций для подкрепления своего обучения, страдают афантазией — они никогда не мыслят картинками. Но означает ли это, что они вообще не способны мыслить или что их слова полностью лишены значения?

Чтобы ответить на этот вопрос, давайте обратимся к истории человека, который рос в условиях крайне ограниченных возможностей чувственного восприятия физического мира.[*4] Хелен Келлер была одной из самых удивительных личностей двадцатого века. Родившись в почтенной семье из Алабамы, в возрасте всего девятнадцати месяцев она перенесла менингит и трагически лишилась как зрения, так и слуха. Следующие несколько лет она провела в попытках осмыслить мир с помощью оставшихся органов чувств, например, узнавая членов семьи по вибрации их шагов. Когда ей было шесть лет, ее мать наняла местную слепую женщину, чтобы та попыталась научить девочку общению, выводя буквы на ее ладони. В своей автобиографии Келлер с глубоким чувством описывает момент внезапного прозрения, когда она осознала, что движения «в-о-д-а» на ее ладони символизируют то чудесное прохладное вещество, что струится по ее руке. Как она сама восторженно писала: «Живое слово пробудило мою душу, вернуло ей свет, надежду и освободило ее!»

История Келлер дает нам уникальную возможность понять, каково человеку расти в сенсорной среде, лишенной зрительных и слуховых ориентиров. На первый взгляд ее история подтверждает идею о том, что слова обретают значение только тогда, когда они связаны с физическим опытом. В конце концов она поняла слово «вода», когда осознала, что оно относится к переживанию в физическом мире — прохладному ощущению жидкости, текущей по ее руке. Келлер словно описывает тот самый миг, когда она покидает Национальную библиотеку Таиланда и впервые получает возможность сопоставить символы с объектами реального мира, позволяя их значению хлынуть безудержным потоком. Напротив, БЯМ (у которых, к сожалению, нет рук и которые не могут почувствовать прохладу воды на своих пальцах) остаются запертыми в этой библиотеке навсегда.

Однако здесь есть подвох. Если определять осмысленность слов только через их соотнесение с конкретными объектами или событиями (например, с настоящей обезьяной, едущей на настоящем велосипеде), мы радикально лишим значения огромные пласты языка. Мы понимаем множество слов, которые не относятся к физическим вещам и которые нельзя увидеть, услышать или иным образом воспринять непосредственно: такие слова, как «квадратный корень», «бессмыслица» и «гамма-излучение». Все мы можем прекрасно рассуждать о вещах, которых не существует (и которые, следовательно, не имеют референта), вроде персика размером с планету или деспотичного кита, правящего Индийским океаном.[*5] Сама Хелен Келлер улавливала значение бесчисленных конкретных понятий, которые она не могла ни увидеть, ни услышать, таких как «облако», «пение птиц» и «красный». Таким образом, слова становятся осмысленными вовсе не исключительно потому, что они относятся к вещам, которые можно увидеть, услышать, потрогать, попробовать на вкус или почувствовать их запах. Они также обретают значение через то, как они соотносятся с другими словами. Более того, утверждение, будто «смысл» и «понимание» возникают только тогда, когда слова связаны с физическими ощущениями, несправедливо подразумевает, что речь людей с ограниченным сенсорным опытом менее осмысленна или что сами они менее способны «понимать» слова, которые произносят. Оба эти