Заслуженный собеседник. Искусство диалога с искусственным интеллектом - Андрей Владимирович Курпатов

Но что, если мы рассмотрим этими рельсы не как преимущество, а как препятствие, ограничение?

Профессор Гарвардской школы бизнеса Клейтон Кристенсен, изучая инновации, обнаружил удивительный парадокс: почему компании-лидеры, имеющие все ресурсы и таланты, часто проигрывают новичкам в периоды технологических революций? Его вывод, что именно прежний опыт успешных компаний и был их ахиллесовой пятой: то, что сделало эти компании великими, и мешало увидеть новые возможности, выходящие за рамки существующей парадигмы.

То же самое происходит и в нашем взаимодействии с искусственным интеллектом. Наши привычные паттерны мышления, наш профессиональный опыт и даже наши представления о самом процессе мышления становятся барьерами, мешающими нам увидеть принципиально новые возможности.

Давайте присмотримся к этим барьерам внимательнее.

Когнитивные ловушки, о которых нас не предупредили

1. Тенденциозность подтверждения: как мы находим то, что ищем

Представьте, что вам поручили исследовать потенциал нового продукта. У вас уже есть ощущение, что продукт будет успешным. Что происходит дальше? Скорее всего, вы начнёте замечать данные, подтверждающие ваше предчувствие, и упускать из виду противоречащие сигналы.

Это и есть тенденциозность подтверждения – наш мозг ищет информацию, которая согласуется с нашими убеждениями и представлениями. Поэтому, кода вы спрашиваете ИИ: «Найди информацию, подтверждающую, что наш продукт будет востребован на рынке», вы, конечно, получаете именно то, что просили – подтверждения. Вы буквально запрограммировали систему на подтверждающее смещение!

Более продуктивный подход: «Проанализируй все доступные данные о рынке для нашего продукта. Какие признаки говорят в пользу успеха, а какие должны настораживать? Что мы можем не учитывать, двигаясь этим путём? Какие противоположные сценарии развития событий имеют существенную вероятность?».

Наш мозг стремится к когнитивной согласованности – состоянию, когда новая информация не противоречит уже имеющимся убеждениям. Это экономит когнитивные ресурсы, но создаёт закрытую систему, не способную к обновлению. Однако, таким образом мы фреймим ИИ «правильным» ответом.

2. Эффект Даннинга-Крюгера и ловушка экспертизы

Психологи Джастин Крюгер и Дэвид Даннинг обнаружили интересный феномен: люди с низким уровнем компетенции в определённой области склонны переоценивать свои способности. Это происходит потому, что им не хватает метакогнитивных навыков для осознания своих ограничений.

Но есть и обратная сторона: эксперты могут настолько глубоко погрузиться в свою специфическую область, что им становится трудно взглянуть на неё свежим взглядом или объяснить базовые концепции новичкам. Например, эксперт обращается к ИИ: «Объясни, как мне лучше всего использовать машинное обучение в моём бизнесе». Система даёт общий ответ, который эксперту кажется банальным. Он разочарован: «Это я и так знаю!».

Более продуктивный подход: «Давай рассмотрим мой бизнес (дальше вы его расписываете, указывая разные аспекты и обстоятельства) как систему процессов и взаимодействий. Я хорошо знаком с технической стороной машинного обучения, но как его принципы могли бы переосмыслить сам подход к моему бизнесу, даже если это потребует пересмотра базовых представлений о том, как всё работает».

Высокая компетентность часто приводит к формированию очень специфического профессионального языка и жёстких концептуальных рамок, и эксперту бывает трудно признать, что эти рамки ограничивают его мышление, создавая те самые понятийные «колодцы».

3. Функциональная фиксированность: молоток везде видит гвозди

В 1945 году психолог Карл Данкер провёл знаменитый эксперимент «со свечой». Участникам давали свечу, коробку с кнопками и спички, и просили закрепить свечу на стене так, чтобы воск не капал на пол. Решение требовало увидеть в коробке не только контейнер для кнопок, но и потенциальную подставку для свечи. Большинство испытуемых не могли справиться с задачей, демонстрируя функциональную фиксированность – неспособность увидеть новые функции знакомых предметов.

Так и в наших отношениях с ИИ: если мы думаем, что он представляет собой инструмент поиска или способ автоматизации рутинных задач, мы спрашиваем его: «Какие функции можно добавить в наше приложение, чтобы повысить вовлечённость пользователей?» – и получаете список типичных функций.

Более продуктивный подход: «Давай рассмотрим наше приложение не как набор функций, а как пространство взаимодействия. Если мы будем думать о нём как о живой системе, как о языке общения или как о среде обитания – какие неожиданные перспективы это может открыть для повышения вовлечённости пользователей?».

Наш разум стремится к категоризации, которая экономит когнитивные ресурсы. Однажды определив что-то как объект определённого типа с конкретной функцией, нам сложно увидеть в нём что-то принципиально иное.

Инерция закрыто-системного мышления: почему так трудно перестраиваться

1. Когнитивная скупость: экономия на самом важном

Нобелевские лауреаты Даниэль Канеман и Амос Тверски показали, что наше мышление часто следует принципу «когнитивной экономии» – мы стремимся минимизировать умственные усилия. Их теория описывает «Систему 1» (быструю, интуитивную, автоматическую) и «Систему 2» (медленную, аналитическую, требующую усилий), и показывает, что мы предпочитаем использовать «Систему 1», когда только возможно.

Вот почему, столкнувшись со сложной проблемой, вы, скорее всего, обратитесь к ИИ с такой инструкцией: «Дай мне быстрое решение проблемы снижения мотивации в команде». Но в таком случае, вы получаете лишь стандартный набор рекомендаций, и эффективного решения вы в них не найдёте.

Более продуктивный подход: «Давай исследуем феномен мотивации в команде как сложную систему взаимодействия различных факторов. Не предлагай очевидные решения, которые лежат на поверхности. Помоги мне лучше понять те глубокие паттерны и взаимосвязи, которые могут объяснить эффекты вовлечённости и демотивации сотрудников».

Наш мозг эволюционно ориентирован на минимизацию затрат энергии, а создание новых когнитивных моделей требует от него значительных ресурсов, поэтому мы и предпочитаем использовать уже имеющиеся шаблоны, вместо того чтобы находить новые, нестандартные решения.

2. Фрейминг (или «рамка»): как мы сами себя загоняем в угол

Знаменитая головоломка «девять точек» предлагает соединить девять точек, расположенных в виде квадрата, четырьмя прямыми линиями, не отрывая карандаша от бумаги. Чтобы выполнить эту задачу необходимо выйти за пределы воображаемого квадрата, который фреймит вас своей структурой – вам нужно буквально «мыслить за рамками».

В бизнесе и повседневной жизни мы постоянно сталкиваемся с проблемой узкого фрейминга – мы определяем проблему слишком узко, что автоматически ограничивает пространство возможных решений.

Например, HR-специалист спрашивает: «Какие HR-методики помогут снизить текучку кадров в нашей компании?» – и получает стандартный набор HR-инструментов.

Более продуктивный подход: «Давай рассмотрим текучку кадров не как изолированную HR-проблему, а как симптом более сложной системы взаимодействий в компании. Как эта проблема связана с бизнес-процессами, лидерством, рыночной позицией, технологическими решениями? Какие неочевидные факторы могут влиять на ситуацию?».

Наша профессиональная идентичность определяет то, как мы воспринимаем и формулируем проблемы. Это создаёт эффект линз, через которые мы смотрим на реальность, по сути, отфильтровывая всю информацию, которая не соответствует «рамке» наших профессиональных парадигм.

3. Иллюзия линейности: мир сложнее, чем нам кажется

Линейное мышление – это привычка видеть причинно-следственные связи как простые, прямые и пропорциональные: если А вызывает Б, то удвоение А должно вызвать удвоение Б. Но реальный мир гораздо сложнее. В нём преобладают нелинейные системы с петлями обратной связи, эмерджентными свойствами, пороговыми эффектами и хаотическим поведением.

Если вы просите ИИ: «Составь детальный план проекта на следующие 6 месяцев с чёткими этапами и сроками», вы получаете линейный план, который разбивается о реальность уже на первом шаге.

Более продуктивный подход: «Помоги мне разработать адаптивный подход к планированию проекта, учитывающий его нелинейную природу. Какие ключевые точки принятия решений следует предусмотреть? Какие факторы могут привести к неожиданным поворотам? Как мы можем использовать эмерджентные свойства системы вместо того, чтобы бороться с ними?».

Проблема в том, что наш мозг эволюционно предрасположен к линейным моделям – они для нас привычнее, а потому проще для понимания и прогнозирования. Нелинейность и эмерджентность требуют более сложных когнитивных моделей, которые труднее создавать и поддерживать.

Страх неопределённости: комфорт ложной уверенности

1. Избегание