Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

началу 2000-х годов интернет уже можно было использовать для поиска того, что вам действительно нужно было знать, причем делать это достаточно быстро и надежно. В сфере ИИ мы можем рассматривать публичный релиз ChatGPT в 2022 году как аналогичный переход через Рубикон. Внезапно ИИ перестал быть просто полусырой игрушкой или пафосной демоверсией, которую топ-менеджеры в водолазках гордо презентуют на помпезных технологических конференциях. ИИ стал доступен каждому, дома или на телефоне, и оказался действительно полезным для проверки фактов, решения математических задач и обобщения данных. Сегодня у ChatGPT более ста миллионов активных пользователей, а сайт OpenAI посещают чаще, чем Netflix, Pinterest или Weather.com.

Итак, что же дальше? Можем ли мы извлечь уроки из того, как интернет сформировал наше общество, чтобы получить хоть какое-то представление о волне новых технологий на базе ИИ, которая вот-вот накроет нас? Можем ли мы использовать историю цифровых технологий последних тридцати лет, чтобы предсказать следующие тридцать — или хотя бы следующие тридцать месяцев? Если мы посмотрим на историю интернета и на то, как ему удалось неразрывно вплестись в нашу жизнь, то увидим две основные тенденции. Здесь я утверждаю, что по мере того, как ИИ будет становиться незаменимым для каждого из нас, развернутся ровно те же два явления. Таким образом, изучение нашей цифровой истории может дать нам возможность заглянуть в будущее и понять, как системы ИИ будут постепенно вкрадчиво проникать во все аспекты нашего существования.

Первая тенденция — это персонализация. На заре интернета каждый пользователь шел по одним и тем же информационным магистралям и закоулкам. Но эта невинная эпоха давно ушла в прошлое. Сегодня результаты поиска в интернете, предлагаемые вам новостные статьи или посты, всплывающие вверху вашей ленты, адаптируются под вас алгоритмами, которые незаметно предугадывают ваше местоположение, ваши вкусы и даже ваши политические взгляды. Подобным же образом в ближайшие годы системы ИИ будут становиться все более персонализированными под конкретного пользователя. LLM будут обучаться говорить то, что вы хотите услышать, и делать то, что сделали бы вы сами. Они научатся имитировать социальное поведение, которое мы ценим в других людях, — такое как доброта, надежность и остроумие. Поступая так, они будут побуждать нас вверять свои жизни ИИ, делиться с ним самыми сокровенными подробностями и даже обращаться к ИИ в поисках полноценного общения. Нравится нам это или нет, но это неизбежно даст системам ИИ пугающую степень власти над нашей жизнью.

Вторая — это инструментальность. Инструментальный агент — это тот, кто стремится к достижению своих целей, то есть мотивирован на то, чтобы добиваться результатов. В первые годы своего существования интернет был преимущественно пассивным инструментом. Он служил своего рода эпистемическим водопоем, куда люди приходили, чтобы утолить жажду информации. Такие сайты, как «Википедия», этот нерушимый бастион достоверных фактов, остаются верны этому идеалу. Но остальная часть интернета сегодня — это гигантский торговый центр, телефон и кинотеатр, слитые в единое целое. Мы используем интернет для покупки товаров и услуг, для связи с друзьями и близкими, а также для круглосуточного стриминга развлечений. Точно так же в ближайшие годы мы увидим переход систем ИИ от роли простых поставщиков информации (когда ChatGPT и Gemini лишь отвечают на запросы) к роли инструментальных агентов, действующих от нашего имени. Поначалу эти действия будут ограничены цифровым миром: отправка электронных писем, планирование встреч или бронирование поездок. Но с распространением интернета вещей — благодаря которому обыденные предметы, такие как ваш автомобиль, холодильник и даже носки, теперь подключены к сети — влияние ИИ проникнет еще глубже во все наши дела, а его щупальца протянутся далеко в физический мир. Скрыться от этого будет трудно.

Движущей силой этих явлений выступает видение того, как именно ИИ будет использоваться в будущем (среди технологических компаний, соревнующихся в создании ИИ, сейчас в моде термин «форм-фактор»). Будет ли будущий ИИ чисто цифровым, живущим в вашем телефоне, или же он обретет физическое воплощение, превратившись в своего рода робота-дворецкого, бесшумно скользящего по вашему дому? Какими полномочиями он будет наделен — станет ли он просто давать вам советы или будет самостоятельно действовать от вашего имени? Какого рода отношения сложатся у вас с ним — где будут проходить социальные границы? Как системы ИИ будут взаимодействовать друг с другом и какую параллельную новую экономику это породит? Эти вопросы уже вызвали бесконечные дискуссии среди исследователей ИИ, социологов, философов и всех остальных, кто находится между ними. Но в одном, конечно, можно быть уверенным: форм-фактор ИИ будущего будет определяться тем, какие возможности откроются для монетизации этой зарождающейся технологии.

Самая очевидная и близкая коммерческая возможность, которую держат в поле зрения все технологические гиганты, заключается в том, что будущие системы ИИ будут выступать в роли цифровых помощников. Идея заключается в том, чтобы пользователи могли переложить рутинные жизненные задачи — оплату счетов, планирование давно назревшего визита к стоматологу, сортировку лавины электронных писем — на надежную и рассудительную LLM, высвобождая больше времени для отдыха или хотя бы для более интеллектуально сложных профессиональных задач. Независимо от того, как выглядит ваше представление о приятном времяпрепровождении — будь то лежание на пляже, обучение полетам на параплане, уход за бегониями, написание биографии или спасение жизней в операционной, — это, должно быть, кажется заманчивой перспективой. Разумеется, чтобы быть эффективным, ИИ-помощник должен достаточно хорошо вас знать (персонализация), чтобы действовать от вашего имени надлежащим образом (инструментальность). Таким образом, две тенденции, на которых я сосредоточу свое внимание, скорее всего, будут ускоряться коммерческими императивами, которые стимулируют развитие ИИ прямо сейчас, когда я пишу эти строки, и, без сомнения, продолжат двигать его вперед в ближайшем будущем.

Таким образом, те тенденции, которые характеризовали становление цифровых технологий на протяжении последних тридцати лет, вполне могут повториться по мере того, как ИИ будет становиться все более мощным и распространенным, и мы можем использовать их как призму, сквозь которую видно, куда ИИ движется прямо сейчас. Но нам также необходимо помнить, что ИИ — это принципиально новая технология. Его способность действовать автономно — делать что-то самому — делает его абсолютно непохожим на все, что человечество успешно создавало ранее. Он будет одновременно гораздо более мощным и гораздо более непредсказуемым, чем все предыдущие инновации. Следовательно, влияние этих тенденций и темпы их развития, по всей видимости, увеличатся многократно.

Пропустить примечания

*1 https://delphi.allenai.org/.

*2 Тоже по-прежнему доступно, но теперь выглядит действительно неплохо: https://dream.ai/create.

32. Автопропаганда ИИ.