Заслуженный собеседник. Искусство диалога с искусственным интеллектом - Андрей Владимирович Курпатов

запрос, тем больший потенциал открыто-системного мышления задействуется в ответе ИИ. Умение формулировать такие запросы – это своего рода искусство, позволяющее «извлечь» из системы максимально глубокий и многогранный ответ.

Представьте, что вы разговариваете с человеком, который знает тысячи языков, но может отвечать вам только фразами из поваренной книги. Взаимодействие с ИИ отчасти похоже на эту ситуацию, но с важным отличием: ИИ не ограничен фиксированным набором фраз. Скорее, он ограничен тем, какие области семантического пространства активирует ваш запрос – чем шире и глубже эта активация, тем богаче будет ответ.

Уникальные особенности мышления искусственного интеллекта

Мышление ИИ имеет и свои уникальные характеристики, отличающие его от человеческого.

1. Горизонт внимания

ИИ имеет ограниченный «горизонт внимания» – объём текста, который она может удерживать в активной обработке. Для современных моделей это обычно несколько тысяч или десятков тысяч слов. Это означает, что система не может одновременно работать со всем своим «знанием», а только с той его частью, которая активирована текущим контекстом.

Это напоминает ограничения рабочей памяти человека, но объём информации, который может удерживать ИИ, на порядки больше. Впрочем, если мы достаточно легко переключаемся в рамках своей рабочей памяти, то для ИИ это сделать сложнее – в каждом диалоге он видит только ограниченный участок карты, он, в некотором смысле, зафреймлен тем, как мы построили свой разговор изначально.

2. Многоуровневая структура представлений

Внутренние представления языковых моделей организованы иерархически. На нижних уровнях система работает со своими глубинными представлениями, которые нам не понять, на более высоких – с языковыми паттернами (последовательностями символов, словоформами). Ещё выше – с синтаксическими структурами и связями между словами, а на самых высоких уровнях – с абстрактными семантическими концепциями и отношениями между ними.

Эта многоуровневость позволяет системе удерживать как конкретные языковые формы, так и абстрактные смыслы, обеспечивая переход между разными уровнями абстракции.

3. Автокорректирующий механизм

При создании ответа система отслеживает его развитие и корректирует направление, если замечает противоречия или отклонения от темы. Это похоже на внутренний диалог, где система «проверяет» себя, оценивая, насколько формируемый ответ соответствует запросу и внутренним критериям связности.

Этот механизм позволяет системе удерживать целостность ответа даже при работе с очень сложными и многогранными темами. То есть, анализируя работу ИИ, мы получаем уникальную возможность увидеть некоторые аспекты открыто-системного мышления в «чистом виде», вне психологических ограничений, свойственных человеку.

1. Потенциал связности мышления

ИИ способен устанавливать связи между очень отдалёнными областями знания, если эти области имеют какие-то общие структурные элементы. И хотя наше мышление тоже может устанавливать неожиданные связи, наши возможности в этом отношении несравнимо больше ограничены объёмом наших индивидуальных знаний.

2. Роль запроса в активации мышления

То, как запрос активирует определённые области в семантическом пространстве ИИ, напоминает, что и наше собственное мышление активируется вопросами, которые мы себе задаём. И качество этих вопросов, как вы понимаете, во многом определяет глубину нашего мышления.

Есть огромная разница между вопросами «Что мне делать?» и «Какие возможности открываются в этой ситуации?»: первый активирует ограниченное пространство стандартных решений, второй – широкое поле потенциальных.

3. Возможность мыслить без жёстких категорий

ИИ может плавно переходить между разными категориями, не придерживаясь жёстких границ, свойственных отдельным дисциплинам и областям знания. Впрочем, и наше мышление способно на такую гибкость, если, конечно, мы не загоняем его в рамки закрыто-системных структур.

Как иронично замечал Ричард Фейнман, что не знает, к какой области относится та или иная его работа, но это совершенно его не беспокоит. Да, он просто следовал за вопросами, которые казались ему интересными.

Как улучшить взаимодействие с ИИ?

Понимание открыто-системной природы мышления ИИ позволяет нам более эффективно взаимодействовать с ним. Вот несколько самых простых рекомендаций.

1. Формулируйте многогранные запросы

Чем богаче ваш запрос, тем больше связей активируется в системе, а потому глубже и интереснее будет ответ ИИ. Не ограничивайтесь фактологическими вопросами – включайте разные контексты, указывайте дополнительные области, делайте акцент на противоречиях и парадоксах.

Вместо «Расскажи о влиянии технологий на образование» попробуйте спросить: «Как меняется наше понимание образования под влиянием новых технологий? Какие противоречия возникают между традиционными образовательными ценностями и возможностями, которые открывают технологии? Какие новые формы обучения становятся возможными, и какие риски они несут?».

2. Ведите диалог, вместо серии отдельных запросов

ИИ удерживает контекст беседы, а потому каждый ваш вопрос или комментарий углубляет и расширяет активированную в ней сеть. Развивайте тему, задавайте уточняющие вопросы, предлагайте альтернативные точки зрения.

Представьте, что вы исследуете новую территорию вместе с опытным проводником. Вместо того, чтобы просто спрашивать: «Что это за дерево?», «А что это за озеро?», «А какая здесь средняя температура?», вы вовлекаетесь в настоящий разговор: «Это необычное дерево привлекло моё внимание. Оно здесь частый гость? Как оно взаимодействует с другими элементами экосистемы? А эти озёра – как они связаны растительностью в этом лесу?».

3. Не бойтесь выходить за рамки дисциплин

Языковые модели не ограничены границами дисциплин. Они могут устанавливать связи между далёкими, казалось бы, друг от друга областями знания. Используйте эту способность, задавая вопросы на стыке разных областей.

Например: «Как принципы квантовой физики могут переосмыслить наше понимание экономических кризисов? Какие неожиданные параллели можно провести между квантовой неопределённостью и экономической непредсказуемостью?».

4. Помогайте системе углублять мышление

Предлагайте системе мыслить на метауровне, анализировать свои собственные ответы, рассматривать проблемы с разных точек зрения, показывайте ей, где вы видите ограничения и противоречия – всё это активирует более глубокие уровни обработки информации.

Например, после получения ответа на сложный вопрос, вы можете спросить: «Какие неявные предположения содержались в твоём ответе? Как изменился бы ответ, если бы эти предположения были какими-то другими? Какие другие подходы к этому вопросу возможны?».

Подведём промежуточные итоги

Взаимодействие с искусственным интеллектом даёт нам уникальную возможность увидеть как потенциал, так и ограничения нашего собственного мышления. ИИ способен к открыто-системному мышлению на уровне своей внутренней структуры, но ограничен необходимостью выражать свои ответы через закрыто-системные структуры языка.

Наше собственное мышление, впрочем, сталкивается с такими же проблемами – мы способны мыслить открытыми системами («облака мысли»), устанавливать неожиданные связи, удерживать многозначность и противоречия. Но также, как и ИИ, мы ограничены необходимостью выражать наши инсайты через узкое горлышко сознания и языка.

Понимание внутренней логики системы открывает нам путь к более глубокому мышлению, которое не отождествляет себя с языком, а использует его как инструмент, осознавая все его ограничения.

Возможно, именно в диалоге человека и ИИ может возникнуть новый способ мышления – открыто-системный и, при этом, обеспечивающий чёткое выражение смысла, сочетающий в себе глубину интуитивного понимания и ясность рационального анализа.

В следующей главе мы рассмотрим, какие привычные паттерны мышления человека становятся барьерами на пути к открыто-системному взаимодействию с ИИ, и о том, как их преодолеть.

А пока подумайте:

• Замечали ли вы, как качество ваших вопросов (к себе, к другим людям, к миру) влияет на качество получаемых ответов?

• Какие есть возможности улучшить вопросы, чтобы активировать более широкие области смысла и само пространство понимания?

Четвёртая глава

Ловушки нашего ума: где и как мы создаём «слепые пятна»

Я думаю, что самые интересные открытия будет делать тот, кто способен оставить открытой дверь в неизвестное.

Ричард Фейнман

Представьте себя на месте опытного профессионала – хирурга, IT-директора, или скажем, юриста с двадцатилетним стажем. Может быть, вы и есть такой специалист? За годы работы вы не просто накопили множество знаний в соответствующей области, вы ещё и выработали определённый способ мышления, который многократно доказывал вам свою эффективность.

Вы точно знаете, на что обращать внимание, когда вы сталкиваетесь с той или иной ситуацией, какие вопросы необходимо задать, какие факторы учесть, какие решения