Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу - Нума Дхамани

Этот промпт подробный, обращается к надежным источникам и дает понять, какие ответы нужны Чену. Более простой промпт – например: «Напиши мне план подготовки к марафону» – тоже даст результаты, но они могут не соответствовать тому, что ожидает Чен. Поскольку план не просто размещен на сайте, а составлен с помощью LLM, пользователь может запросить столько уточнений, сколько захочет, пока не будет удовлетворен результатами. Теоретически такой подход может быть использован для достижения любых целей.

Наконец, LLM можно без ограничений использовать для всех видов задач, связанных с написанием текстов. Будучи генеративными моделями, они хорошо подходят для мозговых штурмов и обмена идеями, где могут играть роль помощника по написанию текста. Большие языковые модели иногда создают забавные и оригинальные тексты, особенно если дать интересный промпт или настроить температуру повыше. Однако они все же склонны выбирать наиболее вероятное слово для данного контекста, поэтому их ответы часто довольно предсказуемы. И именно это делает их идеальными кандидатами для генерации шаблонных текстов: электронных писем, заметок о встречах и отчетов о результатах работы, – которые многие пишут ежедневно.

В разделе 6.1 мы упомянули доказательства того, что врачи тратят много времени на выполнение административных задач вместо того, чтобы непосредственно общаться с пациентами. Покойный антрополог Дэвид Гребер в своей книге-бестселлере «Бредовая работа» (Bullshit Jobs) описал всплеск бессмысленной бумажной работы, отчетов и так называемой работы «для галочки» за последние несколько десятилетий. Хотя у Гребера есть своя теория о том, почему современная экономика изобилует работой «для галочки», это правда, что, несмотря на красивые картинки будущего, наполненного досугом благодаря техническому прогрессу, в реальности мы еще не добились больших успехов в этом направлении. Джон Мейнард Кейнс предсказал в 1930 году, что спустя столетие люди будут в основном бороться со скукой, а не с усталостью, и возможно, будут работать по три или около того часа в день, просто чтобы чувствовать свою значимость и полезность.

Излишне говорить, что предсказание Кейнса не сбылось. Обнадеживающая перспектива заключается в том, что с появлением LLM офисные работники во всем мире смогут делегировать часть скучной или более шаблонной работы моделям и направить свою энергию на более интересные вещи. Однако здесь существует примечательный цикл обратной связи: чем меньше модель потребляет качественного, созданного человеком контента, тем более стабильно она будет деградировать. В статье 2023 года было показано, что значительный процент специалистов, которые занимаются разметкой выходных данных ИИ, сами используют ИИ20. Сложно упрекать их за использование ИИ в своей работе, но, если сгенерированный моделью текст станет нормой в интернете, это может иметь серьезные последствия для будущих LLM, обученных на интернет-данных, а также для нашего пользовательского опыта от использования сети. Нам бы попадалось сравнительно меньше оригинального контента, будь то познавательная публикация или стремительно разлетающиеся мемы. Не исключено, что мы вступаем в фазу, когда LLM будут предоставлять более дешевую альтернативу таким дорогостоящим услугам, как персональный коучинг, обучение и написание креативных текстов. Но пусть эти инструменты и являются отличным ресурсом, на сегодняшний день ничто не может заменить человеческий опыт и изобретательность.

6.4. Как генеративный ИИ влияет на образование

Как и в случае с любой «революционной» технологией, при появлении ChatGPT у одних людей открылся рот от удивления, а другие нахмурили брови. Выпуск чат-бота был встречен с беспокойством и критикой со стороны некоторых преподавателей, которые опасались, что студенты будут злоупотреблять этим инструментом при выполнении заданий. Американский журнал The Atlantic, пусть даже преждевременно, зашел весьма далеко, написав, что это «конец английскому языку в старших классах»21 и «эссе в колледже мертвы»22. Итан Моллик, профессор Уортонской школы бизнеса Пенсильванского университета, написал в X (Twitter): «ИИ уничтожил смысл выполнения домашних заданий»23. В ответ на эти страхи школы в исступлении начали блокировать доступ к чат-ботам. Ссылаясь на «опасения по поводу негативного влияния на обучение студентов и вопросы относительной безопасности и точности контента», департамент образования Нью-Йорка заблокировал доступ к ChatGPT на всех своих устройствах и в сетях24. Тем временем Питер Ванг, соучредитель и генеральный директор Anaconda, написал X (Twitter): «Я думаю, мы можем переосмыслить концепцию образования в принципе. Колледж в том виде, в каком мы его знаем, прекратит свое существование»25.

Для многих преподавателей обман является реальной проблемой: студенты с помощью ChatGPT пишут эссе и исследовательские работы, решают задачи по математике и естественным наукам, выдавая работы, написанные искусственным интеллектом, за свои. Учителя и школьная администрация были застигнуты врасплох возможностями чат-бота и пытались изо всех сил не только уличить учеников, которые использовали этот инструмент, но и соответствующим образом обновить программу своих уроков. Некоторые учителя обеспокоены тем, что у студентов исчезнет потребность учиться писать, или они разучатся создавать эссе или рефераты с нуля. Их опасения усугубляются тем, что ответы, полученные с помощью ChatGPT и аналогичных инструментов, не всегда точны (см. раздел 5.4). Чат-боты имеют тенденцию выдумывать цитаты, добавлять неточные факты или многократно ссылаться на один и тот же источник, но информация часто может быть настолько детальной и правдоподобно звучащей, что учителям это может добавить дополнительную работу по тщательной проверке и подтверждению ссылок и фактов.

И пока одни преподаватели запрещают использование ChatGPT, другие с радостью принимают этот инструмент. Во-первых, чат-бота вряд ли можно назвать отличником: ему хорошо удается создание текста, но не критическое мышление26. Во-вторых, есть ли ChatGPT или нет, полностью остановить обман невозможно. ChatGPT – это просто еще один инструмент, помогающий обманывать, как, например, заказ эссе в интернете у кенийских авторов27 или копирование ответов из Chegg [83]на онлайн-экзаменах28. Наконец, запрет на использование ChatGPT просто не работает. Учащиеся легко могут обмануть систему, воспользовавшись инструментом вне класса, на своих персональных устройствах, или используя VPN[84] в школьных сетях. Конечно, учителя и школьные администраторы, которые запрещают использование таких инструментов, как ChatGPT, понимают, что некоторые учащиеся все равно будут обходить запрет, поэтому нужно быстро найти способ определения машинно-сгенерированного контента, что является, как мы обсуждали ранее (и продолжим этот разговор в следующем разделе), непростой задачей. Инструменты для выявления машинно-сгенерированного текста, например классификатор OpenAI и GPTZero (см. https://gptzero.me/), показали свою ненадежность и ограниченность. Если учащиеся немного отредактируют свой текст, то смогут легко обойти эти инструменты. Кроме того, если учителя для выявления списывания будут полагаться исключительно на такие инструменты, то могут ошибочно идентифицировать текст как сгенерированный машиной и поставить под удар академическую карьеру учащегося.

Вскоре после публичного дебюта ChatGPT Стэндфордский университет провел опрос, который показал, что студенты уже используют этот инструмент для выполнения заданий