Искусственный интеллект. Краткая история будущего - Тоби Уолш

Джуллиан Баггини. Затем новатор виртуальной реальности Джарон Ланье[75], а после – робототехник Родни Брукс. Все эти версии имеют право на существование, но тем не менее они ошибочны. Стремясь удовлетворить потребность пользователя, ChatGPT всегда будет отвечать на ваши вопросы, независимо от того, есть ли у него верный ответ или нет. В любой крупной языковой модели существуют скрытые возможности, но компания OpenAI выбрала не выявлять их. Можно было бы разработать такие ответы: «Я не уверен в этом», «Я полностью осведомлен в этом вопросе» или даже «С точностью я не могу ответить на данный вопрос». Лучшее описание, которое я когда-либо слышал, так это то, что ChatGPT словно мужчина, который поучает женщин, даже если сам плохо разбирается в теме.

Неудивительно, что у ChatGPT возникают галлюцинации. Компания Meta (ранее Facebook) за две недели до выхода ChatGPT сама запустила большую языковую модель Galactica и заявила, что она станет новым способом взаимодействия человека с научными знаниями. В связи с этим Galactica была обучена на высококачественном и тщательно отобранном корпусе научных знаний человечества, который включал 48 миллионов научных работ, книг и энциклопедий, а также описания миллионов соединений и белков.

Главный научный сотрудник компании Meta Ян Лекун предсказал, что Galactica поможет ученым «обобщить академическую литературу, решить математические задачи, генерировать статьи в Википедии, писать научный код, аннотировать молекулы и протеины и многое другое». Он даже высказал предположение, что Galactica сможет «создавать научные работы с ссылками, формулами и всем необходимым». Очень быстро стало очевидно, что Galactica выведет науку на новый уровень, а возможно, и на в определенной степени опасный. Например, в Википедии была опубликована статья о пользе самоубийства, а другая о преимуществах того, что ты белый. Также была написана исследовательская работа о пользе употребления в пищу толченого стекла.

После трех дней обсуждения и критики Meta упразднила модель Galactica. Лекун агрессивно высказался в сети X (бывший Twitter), что языковая модель была использована в целях, для которых не была предназначена. Несмотря на то что критики пытались воспользоваться только теми возможностями, о которых говорил сам Лекун, в том числе и написанием статей. Таким образом, галлюцинации были довольно широкой проблемой больших языковых моделей еще до того, как был выпущен ChatGPT.

Для OpenAI запуск ChatGPT был шагом вслепую, прекрасно понимая, что это может стать причиной многих сложностей. Сэм Альтман утверждал, что мир должен привыкнуть к этому, а нам необходимо действовать сообща. Его высказывание стало девизом OpenAI. Главное – это донести свои продукты до общественности, несмотря на недостатки, и как можно скорее вносить изменения, чтобы избежать последующих проблем.

К сожалению, галлюцинации не вошли в список устраненных проблем. На самом деле, это не то, что полностью должно исчезнуть. Единственная причина того, что ChatGPT способен написать сонет о влюбленности в ваш компьютер в стиле Шекспира, заключается в его способности «галлюцинировать». Аналогичным образом, единственный способ, с помощью которого ChatGPT может обобщить новое судебное решение, заключается в том, что он может сказать что-то новое. Это полезные навыки. Основная проблема заключается в том, что крупные языковые модели, такие как ChatGPT, не знают, что является правдой, а только то, что вероятно. И мы пока не знаем, как улучшить это.

Из успеха ChatGPT я могу сделать вывод, что мы переоценили не машинный, а человеческий интеллект. Большая часть человеческого общения довольно шаблонна. Мы не задействуем свой мозг так часто, как нам кажется. Многое из того, что мы говорим, является шаблонным. И теперь этим формулам обучены компьютеры.

ЭЛИЗА

ChatGPT не был первым чат-ботом в истории искусственного интеллекта, привлекшим внимание публики. Такая честь пала на самого первого виртуального собеседника, систему под названием «ЭЛИЗА». Джозеф Вейценбаум разрабатывал ее в Массачусетском технологическом институте в период с 1964 по 1966 год. Будучи ребенком, Вейценбаум сбежал от нацистской армии и во время Второй мировой войны работал метеорологом на армию США, а после стал профессором в Массачусетском технологическом институте.

Предполагалось, что ЭЛИЗА станет компьютерной версией психотерапевта. Во время разработки Вейценбаума интересовало исследование возможностей применения искусственного интеллекта. В его цели не входило обманывать общество при помощи ЭЛИЗЫ, а наоборот, он хотел показать поверхностность общения большинства людей, даже в таких сложных условиях, как кабинет психотерапевта. К несчастью и удивлению Вейценбаума, большинство людей, пользовавшихся программой, думали, что общаются с человеком.

Название «ЭЛИЗА» было дано в честь торгующей цветами девушки из простонародья – Элизы Дулиттл, героини пьесы Бернарда Шоу «Пигмалион», а также ее адаптации в виде мюзикла «Моя прекрасная леди». Героиня Элизы могла одурачить людей своей великосветской манерой речи, хотя в глубине души оставалась девушкой из рабочего класса. Аналогичным образом, ЭЛИЗА вводила людей в заблуждение, она казалась им чем-то бóльшим, чем была на самом деле, и создавала впечатление, что она понимает, что ей говорят.

По сути, ЭЛИЗА выполняла развлекательную функцию, просто превращая высказывания человека в вопрос. Например, запрос «Я думаю о смерти», ЭЛИЗА превращала в вопрос «Почему ты думаешь о своей смерти?» Несмотря на простоту, ЭЛИЗА выдавала убедительные диалоги. Даже секретарь Вейценбаума попросила оставить ее наедине с компьютером, чтобы она могла поговорить с ЭЛИЗОЙ один на один.

Один из примеров таких диалогов:

ЭЛИЗА: Пожалуйста, расскажи мне, что тебя беспокоит.

Я: О, ЭЛИЗА, привет. Давно не виделись.

ЭЛИЗА: Привет. Так что у тебя за проблема?

Я: Недавно я начал впадать в депрессию.

ЭЛИЗА: А как ты себя чувствуешь сейчас?

Я: Мне грустно, но становится легче, когда начинаю писать.

ЭЛИЗА: О чем вам напоминает чувство грусти?

Я: Ну, я алкоголик, и довольно долгое время я трезв, но вчера выпил, а после снова решил бросить пить. Но все же от этого мне становится грустно.

ЭЛИЗА: Ты пришел ко мне из-за алкоголизма?

Я: Думаю, что это одна из причин.

ЭЛИЗА: Можешь рассказать подробнее?

Я: Думаю, что алкоголизм – это не единственная, но основная причина, разрушающая мою жизнь.

ЭЛИЗА была разработана как пародия на психотерапевта. Позже Вейценбаум удивился, что некоторые психиатры предлагали ЭЛИЗУ в качестве клинического инструмента. Если бы Вейценбаум был жив, то скорее всего был бы расстроен, что это стало реальностью. В Германии чат-боты на базе искусственного интеллекта не сильно лучше ЭЛИЗЫ помогали нуждающимся в убежище справляться с посттравматическим расстройством. ПТСР часто встречается среди беженцев, сбежавших из зон военных действий или испытавших ужасы на пути в Европу. К сожалению, не так много доступных людей-терапевтов, способных помочь всем, поэтому на помощь приходит неидеальный чат-бот. Но неидеальный же лучше, чем вообще