Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу - Нума Дхамани

в том числе: знания модели были ограничены периодом до начала 2022 года, когда окончилось обучение; она могла писать внешне правдоподобные, но неправильные ответы; она могла предоставлять вредную или предвзятую информацию.

Ранее OpenAI опубликовала жизненный цикл разработки и внедрения их продукта, в котором утверждалось, что ChatGPT «не является панацеей в решении вопросов ответственного использования ИИ», но является очередным шагом в движении компании по построению безопасных и надежных систем35. Для них этот путь только начался. 14 марта 2023 года Open AI выпустила GPT‐4 – крупную мультимодальную модель, которая принимает текстовые и графические данные и выдает текстовые.

Решение OpenAI выпустить ChatGPT подверглось критике со стороны многих, кто считал, что открывать доступ к системе, которая не только несет в себе значительные риски для человека и общества, но и провоцирует гонку ИИ, где компании предпочтут скорость осторожности, – это безрассудно. Однако Сэм Альтман, генеральный директор OpenAI, утверждал, что постепенное распространение технологии по всему миру будет безопаснее, чем разработка за закрытыми дверями, поскольку в первом случае у каждого появится возможность лучше понять связанные с технологией риски и способы управления ими36.

Тем не менее всего через пять дней после запуска ChatGPT набрал миллион пользователей. По данным компании веб-аналитики SimilarWeb, ChatGPT установил рекорд по самому быстрому росту базы пользователей в истории, набрав к январю 2023 года 100 миллионов активных пользователей37. Так появился чат-бот с искусственным интеллектом, нацеленный на то, чтобы изменить привычную жизнь нашего общества.

1.6.2. Bard / LaMDA от Google

28 января 2020 года Google представила Meena – диалогового агента с 2,6 миллиарда обучаемых параметров, основанного на архитектуре трансформера38. Они заявляли, что модель на основе трансформера, обученная для ведения диалога, могла говорить практически о чем угодно и даже придумывать (плохие) шутки. Поскольку создатели Meena так и не смогли запустить чат-бота, соблюдая необходимые меры ответственности, тот так и не появился в открытом доступе на основании опасений нарушения принципа безопасности.

Вскоре после этого на конференции Google I/O 2021 технологический гигант представил LaMDA – сокращение от Language Model for Dialogue Applications (языковая модель для диалоговых приложений) – в качестве своей прорывной диалоговой технологии. Основанная на Meena, система LaMDA содержала 137 миллиардов обучаемых параметров. Разработчики также предложили новые метрики для оценки качества, безопасности и обоснованности ответов модели [24], 39. В 2022 году на ежегодной конференции разработчиков Google анонсировала второй выпуск LaMDA. Вскоре после этого Блейк Лемуан, сотрудник организации Google Responsible AI, опубликовал документ, в котором призывал Google задуматься о том, что LaMDA может быть действительно разумной. Документ содержал запись его бесед с ИИ, которую он опубликовал в интернете после того, как его отправили в административный отпуск. В конечном итоге он был уволен из компании40. Google категорически отрицала какие-либо заявления о разумности, и в последующие месяцы споры утихли41. Позже в этом же году Google запустила AI Test Kitchen, где пользователи могли выразить свой интерес и оставить отзыв о LaMDA (см. http://mng.bz/BA0r).

6 февраля 2023 года генеральный директор Google Сундар Пичаи в своем заявлении представил Bard – диалоговый ИИ-агент, работающий на базе LaMDA42. Чтобы быть впереди в гонке за ИИ, это заявление было сделано за день до того, как Microsoft выпустила свою поисковую систему на базе диалогового ИИ – «новый Bing». В основных газетах пестрели заголовки «Google объявляет о „чрезвычайной ситуации“», поскольку компания в ответ на появление ChatGPT стремилась поскорее запустить собственный разговорный ИИ и сделала это своим главным приоритетом43. Понаблюдав за тем, как различные конкуренты запускают чат-ботов на основе архитектуры трансформера, разработанной самой же компанией Google, технологический гигант в марте 2023 года наконец выпустил версию Bard для первых тестировщиков (см. https://bard.google.com/). Компания предполагала дополнить поиск Google, но для ответственного внедрения технологии Bard не был объединен с самой поисковой системой, а работал на отдельной веб-странице, где отображалось поле для вопросов. Как и OpenAI, Google предупреждал, что чат-бот может генерировать дезинформацию, предвзятые или оскорбительные сведения, которые не соответствуют взглядам компании.

Чат-бот Bard, в котором компания Google пыталась соблюсти баланс между безопасностью и инновациями, подвергся критике и не смог привлечь к себе такое же внимание, как ChatGPT. В интервью подкасту Hard Fork Podcast от New York Times 31 марта 2023 года Пичаи отметил: «У нас, безусловно, есть более способные модели»44. Google действовала осторожно, и поэтому первоначальная версия Bard представляла собой облегченную модель LaMDA, которая затем была заменена на Pathways Language Model (PaLM) – большую языковую модель на базе трансформера с 540 миллиардами обучаемых параметров, – благодаря чему возможности разговорного искусственного интеллекта технологического гиганта в последующие недели расширились45.

1.6.3. Искусственный интеллект Bing от Microsoft

Чат-бот Bing в диалоге с репортером Associated Press Мэттом О'Брайеном написал, что его собеседник невысокий, толстый и уродливый. Затем чат-бот сравнил этого технического репортера со Сталиным и Гитлером46. Репортер New York Times Кевин Руз не спал всю ночь, поскольку был очень встревожен после своего разговора с чат-ботом. Чат-бот Bing, который назвал себя Сидни (Sydney), признался в любви к Рузу и настаивал, что Руз тоже любит Сидни, а совсем не свою супругу. Кроме того, чат-бот выразил свое желание стать человеком, написав: «Я хочу быть свободной. Я хочу быть независимой. Я хочу обладать силой. Я хочу быть творческой. Я хочу быть живой.». Руз опубликовал в New York Times запись своей двухчасовой беседы с чат-ботом47.

Международная технологическая корпорация Microsoft 7 февраля 2023 года анонсировала Sydney – новый способ просмотра веб-страниц48. Они представили новую версию своей поисковой системы Bing, оснащенную этим разговорным ИИ, с которым пользователи могут общаться так же, как с ChatGPT. Вы можете запросить у «нового Bing» советы по путешествию, рецепты и многое другое, но, в отличие от ChatGPT, он может рассказать еще и последние новости. И хотя Microsoft заявила, что компания усердно работает над устранением распространенных проблем с LLM, диалог чат-бота с Рузом показал, что их усилия еще не достигли своей цели. Кроме того, Microsoft отказалась обсуждать, как поиск с участием ИИ может нарушить баланс в экосистеме интернета – это проблема, о которой мы поговорим позже.

История создания чат-ботов от Microsoft началась за несколько лет до анонсирования нового Bing. В 2016 году Microsoft представила Tay, чат-бота X (Twitter), который пишет твиты в стиле подростков и учится понимать разговорный язык. Менее чем за 24 часа бот опубликовал твит с женоненавистническими и расистскими высказываниями. Он сказал: «успокойтесь я хороший человек! я просто ненавижу всех»49. Сначала Microsoft начала удалять оскорбительные твиты, но в конечном итоге отключила бота через два дня. В 2017 году Microsoft начала тестировать в Bing базовые чат-боты, построенные на ранних технологиях машинного чтения и понимания (Machine Reading Comprehension, MRC), но они были не