Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

переправе через реку, для решения которой требуется стратегическое мышление», — ответила она, а затем уверенно изложила тринадцать шагов, необходимых для нахождения наиболее эффективного решения. Нет сомнений, что когда люди решают эту головоломку, они делают это с помощью стратегического мышления. Но GPT-4 не создавалась для стратегического мышления и не обучалась ему. Её просто учили предсказывать следующий токен в текстовом потоке. И тем не менее результат поразителен: она, кажется, оказывается способной на нечто, весьма похожее на стратегическое мышление. В следующих главах мы разберем, как именно она это делает и что это означает для ответа на вопрос, могут ли машины «мыслить».

Пропустить примечания

*1 Хотя животные, выполняющие более сложные задачи, в целом обладают более крупным мозгом, связь между размером мозга и поведенческим репертуаром сложна и неоднозначна. У слонов нейронов вдвое больше, чем у людей. Они, безусловно, очень умные животные, но, возможно, уступают нам в интеллекте — по крайней мере, по тем критериям, которые мы предпочитаем использовать. У осьминогов 500 миллионов нейронов, что кажется колоссальным количеством для существа, которое большую часть времени просто сидит на морском дне и встречается с сородичами исключительно для спаривания.

*2 См. Sejnowski, 2020.

*3 См. Belkin et al., 2019.

*4 См. Anderson, 1972.

*5 Для n языков, чтобы связать каждый язык с другим (но не с самим собой), потребовалось бы n × (n − 1) различных переводческих моделей — так что для 100 языков это составило бы 100 × 99.

*6 См. Johnson et al., 2017.

*7 https://garymarcus.substack.com/p/what-does-it-mean-when-an-ai-fails.

*8 Marcus, 2020.

*9 Это очень старая идея в психологии, но сегодня она наиболее известна благодаря популярной книге «Думай медленно... решай быстро» (Канеман, 2012). Мы обсудим её более подробно в части 3.

*10 GPT-4: «Нет, у Наполеона Бонапарта не было айфона. Наполеон Бонапарт жил с 1769 по 1821 год, в то время как первый iPhone был выпущен компанией Apple в 2007 году, почти через два века после смерти Наполеона».

Часть вторая

Что такое языковая модель?

7. Сила слов.

Язык — это наша суперсила. Тот, кто написал Книгу Бытия, прекрасно это знал. Когда Всемирный потоп отступил, все люди, как считается, говорили на одном наречии. Цивилизация процветала, было изобретено строительное дело, и человечество неизбежно обуяла гордыня. Почувствовав силу, люди решили доказать свое архитектурное мастерство и построить исполинскую башню до самого неба — эдакий библейский Бурдж-Халифа на стероидах. Бога не на шутку встревожили их замыслы, и он решил, что единственный способ поставить людей на место — это расстроить их язык:

«Вот, один народ, и у всех один язык, и это лишь начало того, что они сделают; теперь ничто из задуманного ими не будет для них невозможным. Сойдем же и смешаем там язык их, так чтобы они не понимали речи друг друга» (Бытие 11:6–7 — Новая исправленная стандартная версия).

Вот вам и черным по белому. Язык превращает людей в соперников богов.

У Бога были все основания для беспокойства. Люди, разумеется, нашли уловки, чтобы обойти препятствие в виде лингвистической неоднородности: они изобрели субтитры, Google Переводчик и школьные поездки во Францию по обмену. Они провозгласили английский международным языком науки. Способность делиться идеями с помощью слов оказалась силой столь же великой, как и предрекал Бог. Вот более современная цитата, созвучная этой мысли. Это первая строка из «Лингвистических войн» — увлекательной книги о причудливой интеллектуальной вражде из-за лингвистических форм и смыслов, которая разразилась среди ученых в 1960-х годах (некоторые из главных героев которой встретятся нам далее): «Язык — это самое странное и самое могущественное из всего, что когда-либо существовало на нашей планете. Все остальные, куда более обыденные и менее могущественные вещи, такие как ядерное оружие, квантовые компьютеры и антибиотики, без языка были бы в буквальном смысле немыслимы»[*]

Парадокс заключается в том, что хотя владение языком — это суперсила, овладение речью кажется нам совершенно тривиальным достижением. Каждый нормально развивающийся ребенок на планете осваивает язык — будь то английский, финский, виннебаго или американский язык жестов. Но как именно язык зарождается у нас внутри? Оказывается, этот вопрос будоражил человеческое любопытство еще с древних времен. Собственно, происхождение языка стало предметом первого из известных психологических экспериментов, описанного в «Истории» Геродота. В VII веке до нашей эры фараон Псамметих приказал отдать двух новорожденных на воспитание неразговорчивому пастуху в уединенную горную хижину, чтобы они росли, никогда не слыша ни единого произнесенного слова. Псамметих хотел узнать, каким будет их первое слово — веря, что оно укажет на праязык, от которого произошли все остальные (согласно «Истории», оно прозвучало на фригийском). Однако Геродот упустил из виду по-настоящему чудесный аспект этой легенды: то, что дети вообще освоили речь, несмотря на то что никогда не слышали человеческого голоса. И это не просто легенды. Современные исследования показывают, что близнецы, растущие в условиях языкового дефицита, часто спонтанно изобретают собственный язык — феномен, известный как криптофазия. В одном известном случае пара близнецов, росших в Уэльсе в 1970-х годах, создала собственный тайный язык, который никто другой (включая их родителей) не мог понять, и они наотрез отказывались общаться как-либо иначе. Таким образом, язык — этот волшебный инструмент, который извлекает мысли из моей головы и помещает их в вашу, — представляет собой неумолимый биологический императив. Мы от природы стремимся облекать свои идеи в слова, движимые глубокими мотивационными течениями, столь же мощными, как жажда, любопытство или вожделение.

В исследованиях искусственного интеллекта моделирование языка изучается в подразделе, известном как обработка естественного языка (NLP). Исследователи в области NLP, как правило, имеют эклектичные интересы, и в этой дисциплине велась работа над самыми разными проектами: от классификации тональности текста (например, оценки того, является ли отзыв об отеле положительным или отрицательным) до машинного перевода и ответов на вопросы. Однако конечная цель NLP — переложить наше уникальное биологическое достижение, усвоение языка, на язык компьютерного кода. Исследователи надеются создать систему, способную генерировать естественную и связную прозу, точно отвечать на вопросы и вести разумный диалог. Именно эту перчатку, конечно же, бросил Тьюринг в своей знаменитой Игре в имитацию: сможет ли компьютер когда-нибудь успешно выдать себя за человека, поддерживая правдоподобную беседу? За прошедшие семьдесят лет специалисты по NLP подступались к этому