Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу - Нума Дхамани

и сдачи экзаменов29. А пока одни колледжи борются с ChatGPT, многие другие уже включили использование инструментов генеративного ИИ в свою политику академической честности и подготовили рекомендации для учителей по внедрению ИИ-инструментов в учебный процесс30, 31. Аналогичным образом преподаватели, выступающие в академических кругах за ChatGPT, считают, что при правильном использовании он может стать эффективным инструментом обучения. В учебном блоге Ditch That Textbook перечислено множество способов использования ChatGPT (или аналогичных инструментов) для улучшения процесса обучения как для преподавателя, так и для студента (см. https://ditchthattextbook.com/ai/). Некоторые из них показаны на рис. 6.8. Учителя могут использовать бота при подготовке плана урока или даже для создания персонализированной программы обучения на основании потребностей и способностей учащегося, а также для проверки работ. Учащиеся могут использовать этот инструмент в качестве отправной точки для выполнения задания, оценивать первоначальные ответы и затем критически обдумывать, как их можно переработать и улучшить. Чат-бота можно использовать как дополнение к очному обучению, предоставляя студентам еще один источник знаний за пределами аудитории, например для объяснения материала после занятий или совершенствования навыков письма для изучающих английский язык. Если подойти к ChatGPT творчески, то его можно включить в планы уроков – использовать как инструмент для оттачивания навыков ведения дебатов [85] или просить учащихся оценивать ответы, сгенерированные чат-ботом. Стартапы в области образовательных технологий (EdTech) также используют LLM для преподавания и обучения, разрабатывая например: ИИ-репетитора (см. https://riiid.com/), персонализированную платформу для обучения (см. https://www.alefeducation.com/), разговорного виртуального помощника для изучения естественных наук (см. https://www.cognii.com/).

Рис. 6.8. Примеры использования чат-ботов в учебном процессе

Конечно, такой инструмент, как ChatGPT, будет нарушать привычное течение учебного процесса, но преподавателям не стоит его бояться. Инструменты генеративного ИИ можно задействовать, чтобы сделать процесс обучения более глубоким и увлекательным, и это особенно актуально в современном мире. Прорывные технологии всегда вызывали восторг и страх: некоторые опасались, что телефоны уменьшат живое общение между людьми, а с изобретением телевизора возникло опасение, что появится общество домоседов. Сэм Альтман, генеральный директор OpenAI, в ответ на опасения преподавателей по поводу списывания в школе сравнил генерацию текста с калькулятором:

«Замечу, что мы смогли приспособиться к калькуляторам и изменить то, что проверяем на уроках математики. Это, без сомнения, более серьезные перемены, но и преимущества тоже более серьезные»32.

Хотя Альтман уклоняется от обсуждения законных опасений по поводу ненадлежащего использования и ограничений применения инструмента, преподавателям действительно надо приспособиться к этой технологии, а не запрещать ее полностью.

Адаптироваться к новым технологиям не всегда бывает легко, и хотя такие инструменты, как ChatGPT, меняют процесс обучения и преподавания, это еще не конец формального образования. Эндрю Ын, всемирно признанный лидер в области искусственного интеллекта, и Андреа Пассерини, генеральный директор Kira Learning, в своей статье на веб-сайте VentureBeat призвали школы обучать тому, как использовать ИИ и как программировать, чтобы подготовить своих учеников к жизни в мире, где есть искусственный интеллект33. Восхищает ли он нас или пугает, мы живем в мире, где есть инструменты генеративного ИИ, и учащиеся должны понимать, как с ними работать. Мы должны рассказать им о сильных и слабых сторонах этих инструментов: как они могут повышать продуктивность и креативность, как их можно неправильно использовать и какие риски с ними связаны. ChatGPT и аналогичные инструменты при правильном использовании могут дополнить процесс обучения и помочь учащимся ориентироваться в мире, где искусственный интеллект и люди работают вместе.

6.5. Выявляем машинно-сгенерированный текст

В главах 4 и 5 мы обсудили несколько способов обнаружения контента, созданного машиной, и некоторым из них преподаватели уже нашли применение, выявляя домашние задания, полностью написанные ИИ. Несмотря на многообещающие результаты в разработке методов обнаружения, идеальное решение пока не придумано – это чрезвычайно сложная задача, и с развитием генеративных моделей она становится все сложнее. Стоит также отметить, что условия этой задачи не так хорошо сформулированы, как может показаться. Если мы изменим одно или два слова, то должен ли текст по-прежнему считаться сгенерированным с помощью ИИ? Нечеткая постановка задачи только усложняет разработку надежных методов обнаружения. В этом разделе мы более подробно рассмотрим методы обнаружения текста, сгенерированного с помощью ИИ.

К традиционным подходам обнаружения машинного текста относятся статистические методы обнаружения выбросов, такие как GLTR (обсуждается в разделе 5.2). В основе GLTR лежит предположение, что модель склонна подбирать наиболее вероятные слова для каждой позиции в предложении, тогда как в естественном написании чаще встречаются слова, неожиданные для текущего контекста34. Чтобы отличить тексты, написанные машиной и человеком, здесь используются базовые статистические методы, например распределение вероятностей слов в тексте. Другой статистический подход, DetectGPT, для определения того, сгенерирован ли текст с помощью LLM, также использует склонность моделей генерировать наиболее вероятные последовательности35. Например, если в предложении, написанном машиной, произвести перестановку слов, то новое предложение, как правило, будет оценено самой моделью как менее вероятное (действительно, ведь она выбрала наиболее вероятный вариант для ответа). А вот в предложении, написанном человеком, это может не соблюдаться – после перестановки слов предложение может оказаться как более, так и менее вероятным с точки зрения модели.

Как обсуждалось в предыдущих главах, для обнаружения машинного текста часто используются обучаемые классификаторы. Классификатор – алгоритм, который обучен определять, к какому классу или группе принадлежат объекты, которые ему показали. В январе 2023 года OpenAI выпустила «несовершенный» классификатор, позволяющий определять, написан текст искусственным интеллектом или человеком. Это стало примером того, как классификатор можно использовать для этой задачи. OpenAI признавала, что невозможно надежно выявлять любой созданный с помощью ИИ текст, но предлагала задействовать ее классификатор в качестве дополнения к другим методам обнаружения таких текстов, а не как основной инструмент принятия решения (но, как отмечалось в главе 4, классификатор OpenAI был удален через пять месяцев после выпуска из-за проблем с точностью)36. Хотя хорошие классификаторы играют свою роль в обнаружении машинно-сгенерированного текста, важно знать об их ограничениях (как и в случае с другими техническими решениями этой задачи) и понимать, что они не являются гарантированным средством идентификации текста, написанного с помощью ИИ. Стоит также отметить, что классификаторы могут быть хорошо знакомы только с особенностями конкретной генеративной модели. Другими словами, классификатор, предназначенный для обнаружения текста из GPT‐4, будет не так хорошо выявлять текст, сгенерированный другими чат-ботами, такими как Bard или Bing Chat. Тем не менее они показали свою перспективность как мера предотвращения ненадлежащего использования машинно-сгенерированного текста, особенно в сочетании с другими социальными и техническими методами определения источника фрагмента контента.