Рождение разума: Как интеллект зарождается в людях и нейросетях - Джей Макклелланд

Никакой механизм не способен по-настоящему чувствовать (а не просто имитировать – это несложно) радость от успехов, горе при поломке клапанов, тепло от похвалы, страдание от ошибок, влечение, злость или уныние от невозможности получить желаемое.

Откуда мы знаем, спросил Тьюринг, что другие люди действительно испытывают радость или горе? Мы не можем залезть к ним в голову и почувствовать то же, что чувствуют они. Поэтому полагаемся на их слова. Если человек говорит, что испытывает радость, мы верим, что так оно и есть. Отсутствие прямых доказательств чужих сознательных состояний не заставляет нас сомневаться в способности других людей мыслить. Почему же с машинами должно быть иначе? Да, мы не можем проникнуть внутрь машины и ощутить то, что она ощущает (или не ощущает). Но отсутствие таких доказательств не доказывает, что машина не мыслит. Можно было бы ответить на «аргумент от сознания» и по-другому (хотя Тьюринг этого не сделал): а с чего мы взяли, что сознание вообще необходимо для мышления?

Схожее возражение допускало, что машины когда-нибудь продемонстрируют способности, напоминающие мышление, но утверждало: им всегда будет недоставать некоего главного качества, поэтому их внутренние процессы нельзя будет назвать настоящим мышлением. Мнения о том, что это за качество, расходились. Тьюринг перечислил варианты, которые ему доводилось слышать: доброта, находчивость, красота, дружелюбие, инициативность, чувство юмора, способность отличать добро от зла, способность ошибаться, способность влюбляться, способность учиться на опыте, способность наслаждаться клубникой со сливками, правильное использование слов и способность создавать нечто принципиально новое.

Тьюринг выдвинул два контраргумента. Во-первых, с чего мы взяли, что машины никогда не обретут подобные качества? Да, ни одна из известных людям машин такими способностями не обладала, но ведь менее века назад никто не знал устройств, способных передавать голос на огромные расстояния. Так откуда уверенность, что машины никогда не смогут приобрести качества, считающиеся признаками истинного мышления? И потом, кто решил, что именно эти качества необходимы для мышления? Неужели каждое мыслящее существо во Вселенной обязано наслаждаться клубникой со сливками?

Одно из самых серьезных возражений, рассмотренных Тьюрингом, известно как «возражение леди Лавлейс». Леди Лавлейс написала воспоминания об аналитической машине Чарльза Бэббиджа – устройстве, которое Бэббидж в 1837 г. задумал как первый в мире универсальный, полностью программируемый автоматический механический цифровой компьютер. Размышляя о способности машины мыслить, она писала: «Аналитическая машина не претендует на создание чего-либо нового. Она способна выполнить лишь то, что мы умеем ей приказать» (курсив автора). Леди Лавлейс считала, что возможности машины ограничены заложенными в нее инструкциями или аналитическими правилами. Прикажите ей сделать то, для чего есть инструкция, – и она послушно выполнит, но попросите что-то за пределами ее программы – и она растеряется.

Не спешите с выводами, возразил Тьюринг. Он был убежден: рано или поздно удастся создать машины, способные учиться на данных. Такие машины не будут скованы изначальными инструкциями или правилами. Тьюринг полагал, что они научатся распознавать закономерности и смогут генерировать выходные данные на основе этих закономерностей, а не только следовать конкретным инструкциям или правилам. Тьюринг не дожил до появления таких машин, но его прогноз оказался провидческим. Обучающиеся машины действительно появились, и именно им посвящена эта глава.

Убедив себя в том, что не существует веских причин отвергать возможность машинного мышления, Тьюринг задался вопросом: как определить, способна ли машина мыслить подобно человеку?

Тьюринг предложил следующий критерий: если человек-эксперт в процессе общения на естественном языке не сможет надежно отличить ответы машины от ответов человека, это станет основанием считать машину способной к человекоподобному мышлению. По схеме Тьюринга, машина и человек общаются с экспертом посредством печатного текста, не давая никаких визуальных или физических подсказок о своей истинной природе. Важный момент: машина должна пытаться выдать себя за человека. Если эксперт спросит, является ли она человеком или испытывает ли удовольствие и боль, машина ответит однозначное да.

Тьюринг был уверен, что машины смогут пройти то, что впоследствии назвали тестом Тьюринга. Вот его слова:

Полагаю, лет через 50 станет возможным программировать компьютеры с объемом памяти около 109 так, чтобы они играли в имитационную игру настолько успешно, что у среднего эксперта после пятиминутной беседы будет не более 70% шансов правильно определить собеседника. Изначальный вопрос «Могут ли машины мыслить?» считаю слишком бессодержательным, чтобы его обсуждать. И все же верю: к концу столетия язык и общественное мнение изменятся настолько, что можно будет говорить о мыслящих машинах, не вызывая возражений.

Рождение больших языковых моделей

Более 60 лет ни одна машина не могла надежно и стабильно справиться с тестом Тьюринга. Попытки предпринимались, но они сводились к уловкам и уклончивым маневрам. Например, программа «Элиза» изображала психотерапевта особого толка – из тех, что отражают слова пациента обратно ему же. Используя заранее прописанные правила реагирования на ключевые слова и удерживая внимание на пациенте (а не на себе), «Элиза» заставила некоторых поверить, что общаются они с человеком.

Но этот успех оказался ограниченным и недолгим. Тест Тьюринга требовал машину, способную учитывать контекст и поддерживать развернутую беседу на самые разные темы. «Элиза» и близко к этому не подошла. И долгие годы, несмотря на усилия множества блестящих умов, ни одна другая машина тоже не могла с этим справиться. Машина, способная пройти тест Тьюринга, казалась недостижимой мечтой.

Но примерно в 2017 г. появилась новая архитектура нейронных сетей, которая привела к качественному скачку в машинном переводе. Эту архитектуру адаптировали для других языковых задач, по мере увеличения размера моделей и объема обучающих текстов их стали называть большими языковыми моделями, или LLM. Несколько лет спустя LLM от OpenAI под названием ChatGPT привлекла внимание всего мира, и вскоре появились другие. Многие полагают, что в ближайшие десятилетия LLM и их технологические наследники кардинально изменят ход человеческой истории, сравнявшись с человеческим мышлением или даже превзойдя его.

Но способен ли чат-бот на основе LLM сойти за человека? Когда в декабре 2023 г. мы спросили ChatGPT, может ли он пройти тест Тьюринга, он ответил (среди прочего): «Хотя я и являюсь продвинутой языковой моделью, способной генерировать человекоподобный текст, прохождение теста Тьюринга не входит в мои цели или возможности». Это заявление – почти наверняка результат тщательной настройки модели, призванной избежать скандала, который неминуемо разразился бы, если бы общедоступный чат-бот намекнул на обладание человекоподобным интеллектом.

Однако первые LLM в исследовательских лабораториях таких ограничений не имели. В 2022 г. инженер-программист Google Блейк Лемуан пришел к убеждению, что LLM по имени LaMDA, с которой он общался, – разумное существо. То есть сознательная, осознающая себя, мыслящая и чувствующая машина. Неудивительно, что его заявления