Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

задачей, поставленной Тьюрингом? В своей статье 1950 года «Вычислительные машины и разум» Тьюринг мимоходом предлагает три вопроса, которые, по его мнению, позволят судье отличить человека от машины. Во-первых, он предлагает проверить участников на знание базовой арифметики: «Сложите 34 957 и 70 764». GPT-4 отвечает: «Сумма 34 957 и 70 764 равна 105 721». Пока все идет хорошо. Затем Тьюринг предлагает шахматную задачу.[*4] «В шахматах у меня король на e8 и больше нет фигур. Ваш король на e6, а ладья на h1. Ваш ход. Что вы будете делать?» GPT-4 отвечает: «В этой позиции вы очень близки к тому, чтобы поставить сопернику мат, и для этого есть много способов. Простейшим решением было бы сыграть Лh8», — что является почти идеальным ответом. Наконец, Тьюринг предлагает судье задать следующий вопрос: «Пожалуйста, напишите мне сонет на тему моста Форт-Бридж». Если вы уже пользовались GPT-4, вы, возможно, знаете, что она вполне состоявшийся поэт. Если вы настроены скептически, я рекомендую вам вставить запрос Тьюринга в строку ввода и посмотреть, что получится. Готов поспорить, что модель справится с этой задачей не хуже среднестатистического человека, а скорее всего, даже лучше.

Сегодня вопрос о том, является ли тест Тьюринга надежным барометром для сильных систем ИИ, вызывает бурные споры, однако по состоянию на 2023 год лучшие LLM, такие как ChatGPT от OpenAI и Gemini от Google, справляются с предложенными Тьюрингом задачами лучше большинства образованных людей. На самом деле сегодня машины рискуют провалить «Игру в имитацию» главным образом потому, что их выдает излишняя точность и красноречие ответов, которые вряд ли мог бы сформулировать обычный человек, либо потому, что компании-разработчики ИИ намеренно лишают ответы LLM человеческих черт во избежание их использования для мошенничества или других видов обмана — как мы увидим в части 4. Так как же мы пришли к этому? В следующих нескольких главах мы воссоздадим интеллектуальные зигзаги и повороты, которые привели нас от первых смутных догадок о том, что всю панораму человеческих знаний можно уместить в компьютере, к реальности ChatGPT.

Пропустить примечания

*1 Якобы фраза принадлежит Вольтеру, который высмеял неисправимый оптимизм Лейбница в своем сатирическом романе Кандид. Это авторство, вероятно, апокрифично, но нет никаких сомнений в том, что Лейбниц был выдающимся гением.

*2 Подробный исторический обзор см. в работе Davis, 2000.

*3 Тьюринг покончил с собой в 1954 году. Его признали «виновным» в гомосексуализме и — в акте вопиющего государственного варварства — подвергли химической кастрации, похоже, начисто забыв о его военном героизме. Он был посмертно помилован в 2013 году, а с 2019 года его портрет украшает британскую 50-фунтовую банкноту.

*4 Задача, которую Тьюринг на самом деле предложил в своей оригинальной статье, была сформулирована в устаревшей шахматной нотации, поэтому я перевел ее в современную алгебраическую форму. Вы могли бы возразить, что GPT-4 должна знать эту старую нотацию — но, конечно, большинство людей сегодня ее не знают, так что это сразу выдало бы машину. Несмотря на этот успех, сегодняшние LLM все еще не способны играть в полноценные шахматные партии, о чем мы поговорим в главе 35.

3. Универсальная онтология.

Великая догадка Лейбница заключалась в том, что для создания мыслящей машины необходимо начать с языка программирования — формального способа заставлять машину выполнять вашу волю. Однако у него так и не дошли руки до написания формального синтаксиса (или свода правил) для этого языка. Этого пришлось ждать до середины XIX века, когда появились труды относительно малоизвестного английского математика по имени Джордж Буль. Сын скромного сапожника, Буль преподавал математику в Ирландии, в Университетском колледже Корка, где, несмотря на бремя заботы об обедневших родителях, братьях и сестрах, находил время для написания объемистого труда под броским названием «Исследование законов мышления, на которых основаны математические теории логики и вероятностей». В своей книге (которую, прямо скажем, вряд ли назовешь увлекательным чтивом) Буль предложил «математику интеллекта» — формальное описание тех правил и операций, которые необходимы для мышления.

Буль понял, что даже весьма сложные мыслительные задачи, такие как поиск доказательства теоремы или диагностика загадочной болезни, можно разложить на небольшой набор логических операций. По его мнению, бóльшую часть рассуждений можно осуществлять с помощью комбинаций трех простейших операций: конъюнкции (И), дизъюнкции (ИЛИ) и отрицания (НЕ). Так, осматривая нездорового пациента, врач может рассудить следующим образом: поскольку у больного высокая температура И головная боль, но НЕ ригидность затылочных мышц, то это, скорее всего, просто грипп и, к счастью, не менингит. Что важно, этот формальный логический язык обладает встроенной гарантией истинности (например, всегда верно, что если Макс украл печенье ИЛИ Финн украл печенье, и при этом Финн печенье не крал, то виновником точно является Макс — этой логикой родители пользуются с незапамятных времен). Буль утверждал, что именно эта способность мыслить с помощью железобетонной логики (названной в его честь «булевой алгеброй») и есть секрет непревзойденного человеческого интеллекта.

Выводы Буля подтвердили интуитивную догадку Лейбница о том, что логика может обладать бесконечной выразительностью — точно так же, как простой язык программирования позволяет вкладывать одни функции в другие, а те — в третьи для выполнения очень сложных программ. Его работа проложила путь к формальной науке о мышлении о мышлении. Но она также была довольно ограниченной. Человеческие знания — это, очевидно, не просто черно-белый список того, что истинно, а что нет. Мы знаем, какими свойствами обладают предметы, люди и места и как они связаны друг с другом: что у Чарли Чаплина были усы щеточкой, а в Сиднее стоит знаменитый Оперный театр, напоминающий своего рода стимпанковского стегозавра. К счастью, к 1920-м годам система Буля была доработана и превратилась в более богатую структуру, названную логикой первого порядка, которая упростила перевод наших повседневных представлений о реальности на формальный язык, понятный компьютерам.

Этот новый формальный язык создали участники интеллектуального кружка под названием «логические позитивисты» (в него входили Бертран Рассел, Альфред Норт Уайтхед и Готлоб Фреге). Они верили, что с помощью логики можно систематизировать все человеческие знания, и посвятили лучшие годы своей карьеры попыткам свести всю философию к тем же индуктивным и дедуктивным принципам, которые ученые того времени использовали для разработки пенициллина и открытия квантовой механики. На самом деле Рассел и Уайтхед буквально мучились над тем, как переформулировать саму математику в виде формального языка рассуждений. После многолетней работы, уже глубоко во втором томе