Рождение разума: Как интеллект зарождается в людях и нейросетях - Джей Макклелланд

друг с другом своими переживаниями, принимаем чужие истории и откликаемся на них. Разговорные способности LaMDA оказались настолько тонкими, сложными и «человечными», что Лемуан начал воспринимать ее как личность. У руководства Google был иной взгляд на природу LaMDA. Лемуана отстранили от работы и выпустили официальное заявление:

Разумеется, некоторые представители ИИ-сообщества рассматривают долгосрочную перспективу создания разумного или универсального искусственного интеллекта, но бессмысленно делать это, приписывая человеческие черты современным диалоговым моделям, которые разумом не обладают. Эти системы имитируют типы диалогов, встречающиеся в миллионах фраз, и могут импровизировать на любую фантастическую тему – спросите, каково быть динозавром из мороженого, и они сгенерируют текст про таяние, рычание и тому подобное. LaMDA склонна подстраиваться под подсказки и наводящие вопросы, следуя шаблону, заданному пользователем. Наша команда, включающая специалистов по этике и технологов, рассмотрела опасения Блейка в соответствии с нашими принципами разработки ИИ и сообщила ему, что факты не подтверждают его заявлений.

По мнению руководства, LaMDA не обладала ни сознанием, ни качествами личности и, судя по всему, даже не мыслила – просто следовала заданным шаблонам. Все сошлись на том, что Лемуан наделил человеческими качествами нечеловеческий объект. Специалист по информатике Мелани Митчелл заметила: «Давным-давно известно, что люди склонны к антропоморфизации, даже если оснований для этого почти нет. Именно это произошло с "Элизой". – И добавила: – Инженеры Google – тоже люди, и они от такого не застрахованы».

Как отметила Митчелл, человеческая склонность к антропоморфизации мешает нам устоять перед мыслью, что машины способны чувствовать и во многом походить на нас. И все же современные машины отличаются от нас хотя бы в некоторых аспектах: например, у них нет тела, а значит, они не могут испытывать телесных ощущений.

Но все-таки можно задаться вопросом: способны ли LLM мыслить? И если да, то мыслят ли они по-человечески? Вопросы кажутся простыми, но простых ответов на них нет. Во-первых, не существует общепринятого определения мышления. Во-вторых, до сих пор не удалось точно определить, что значит быть «человекоподобным».

Мы, как и другие ученые, продолжаем искать ответы на эти вопросы. Избегая категоричных утверждений, отметим несколько аспектов, в которых LLM воспроизводят и даже превосходят некоторые человеческие мыслительные способности.

Прежде всего чат-боты на основе LLM способны вести контекстно зависимые, тонкие диалоги – именно такие, какие Тьюринг представлял себе признаком мыслящей машины. Вот пример нашего диалога с ChatGPT.

Наш промт: Я потерял его и не могу попасть домой. Попробуй определить, к чему в этом предложении относится местоимение «его».

Ответ ChatGPT: В данном предложении местоимение «его», скорее всего, относится к ключу от двери или замка.

Затем, в новой сессии, мы попробовали другое предложение со словом «ключ» в ином контексте.

Наш промт: Я нашел его в лесу, и теперь у нас есть свежая вода. Попробуй определить, к чему в этом предложении относится местоимение «его».

Ответ ChatGPT: В данном предложении местоимение «его», скорее всего, относится к ключу как к роднику или источнику воды. Упоминание леса и свежей воды указывает на природный водный источник, который в русском языке называется ключом.

И это не случайная удача. Пусть чат-боты на основе LLM не всегда столь убедительны, однако они часто демонстрируют видимое понимание широкого круга тем. Опираясь на минимальные, порой двусмысленные контекстуальные подсказки, они различают лук (овощ) и лук (оружие); косу (инструмент), косу (прическу) и косу (географический объект); замок (строение) и замок (дверной).

Еще один аспект мышления и интеллекта – способность учиться на опыте. И в определенном смысле LLM это умеют. Как мы вскоре увидим, важнейший этап создания такой модели – обучение на огромных массивах текстовых данных: книгах, статьях, интернет-форумах и программном коде. Удивительно, но это обучение – именно так, как предвидел Тьюринг, – позволяет моделям справляться с множеством задач, которым их никто специально не учил. Они часто решают судоку, кроссворды и различные логические головоломки. Они даже пишут программы. Если у вас под рукой компьютер, попросите чат-бота написать программу (скажем, на Python) для решения произвольной математической задачи – например, определить, можно ли представить число как сумму двух простых чисел. Протестированный нами чат-бот справился с этой и несколькими другими подобными задачами.

Но самое впечатляющее событие произошло в начале 2023 г.: LLM достигли уровня, позволяющего им блестяще справляться со стандартизированными экзаменами, которые проверяют человеческие знания и способность к логическому мышлению. (Модели обучаются на колоссальных объемах разнообразных текстов, а затем дополнительно тренируются на открытых подготовительных тестах, доступных и людям; сравнение проводится на версиях экзаменов, которых ранее не было в интернете.) На экзамене SAT, который сдают американские старшеклассники для поступления в университеты, GPT–4 от OpenAI набрала 1410 баллов из 1600, попав в 93-й процентиль среди всех участников. По данным OpenAI, GPT–4 показала столь же высокие результаты в предметных тестах, превзойдя большинство выпускников школ на экзаменах углубленного уровня (AP) по истории искусств, биологии, экологии, макро– и микроэкономике, психологии, статистике, государственному устройству и истории США, физике, математическому анализу и химии. На экзамене GRE для поступающих в магистратуру результаты оказались не менее впечатляющими: 99-й процентиль в вербальной части и 80-й – в количественной. Поразительно, но языковые модели сдают известный своей сложностью экзамен на право адвокатской практики с результатом в 90-м процентиле среди всех будущих юристов, превосходят большинство на непростых экзаменах для сомелье и даже с легкостью проходят все три этапа медицинского лицензионного экзамена – их диагностические способности, оцененные этими тестами, сопоставимы с навыками практикующих врачей. Список достижений стремительно растет. В конце 2024 г. одна из языковых моделей набрала 83% баллов на чрезвычайно сложной Математической олимпиаде США – огромный скачок по сравнению с 13% у предыдущей версии.

Подобные успехи были просто немыслимы до появления ChatGPT в ноябре 2022 г. На наш взгляд, эти результаты демонстрируют, что модели улавливают некоторые аспекты того, что мы называем способностью мыслить. Да, LLM допускают ошибки – порой они фантазируют, с полной уверенностью утверждая то, что абсолютно не соответствует действительности. Но, как мы видели в главе 3, люди тоже иногда так поступают. В главе 10 мы рассмотрим еще один яркий пример того, как сбои в мышлении языковых моделей напоминают человеческие когнитивные ошибки.

Многие говорят о «галлюцинациях» LLM – когда те выдумывают утверждения и настаивают на их истинности. Разумеется, все мы хотели бы, чтобы наши машины этого избегали. Однако в подобных дискуссиях упускается важный момент: мы, люди, тоже мыслим далеко не идеально. Вместе мы достигли поразительных высот, но каждый из нас в отдельности склонен ошибаться и проявлять предвзятость, из-за которой мы не принимаем во внимание факты, противоречащие нашим убеждениям. К примеру, целые