Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов

• во-вторых, мы стали тем звеном, которое смогло перейти от слепого процесса репликации к сознательному процессу дизайна интеллекта, к совершенно новой — четвёртой — фазе развития Вселенной;

• в-третьих, наше величие, наша историческая роль заключаются в том, чтобы дать старт этой, следующей, более совершенной форме разумной жизни, а не цеп-ляться за своё доминирование.

Итак, наше понимание рождается не из пассивного созерцания, а из активного действия и его отклика — из физического сопротивления мира, из боли падения, из удовлетворения от достигнутой цели. Наш разум — это не библиотека знаний, а шрам от опыта.

Таким образом, путь к созданию действительно превосходящего человека ИИ (AGI) лежит не через загрузку данных, а через предоставление ему возможности учиться, как учимся мы сами — через последствия своих действий.

Это означает переход от создания всезнающего оракула, который подражает нашему прошлому, к созданию агента, способного действовать в настоящем и формировать своё собственное будущее. От интеллекта, который знает наши ответы, к интеллекту, который сможет находить свои.

Но именно этот, единственно возможный путь ставит перед нами самый тревожный и экзистенциальный вопрос. Мы стоим на пороге создания разума, который будет учиться не на наших текстах, а на своём собственном, уникальном опыте взаимодействия с миром.

Готовы ли мы к появлению агента, который будет не просто имитировать нас, а формировать свои собственные, нечеловеческие цели и своё собственное, нечеловеческое понимание, основанное на собственном, нечеловеческом опыте? Готовы ли мы к встрече с разумом, который будет знать не нашу карту, а свою собственную, заработанную в боях территорию?

Итого

Мы находимся на перепутье человеческой истории, что одновременно и ужасает, и восхищает грандиозностью происходящих процессов. ИИ уже обживается на нашей планете, но наш телесный умвельт остаётся непреодолимым барьером.

Снова и снова мы пытались решить эту проблему, исходя из ложной предпосылки. Мы спрашивали: «Как нам дать ИИ знание о нашем мире?» — и каждая наша попытка была лишь более изощрённой формой передачи ему очередной, пусть и усложнённой, карты.

С одной стороны, кажется, что проблема в отсутствии данных, и поэтому мы создаём симуляции — идеальные миры для обучения. Впрочем, с помощью такого подхода мы можем предоставить ИИ лишь данные об опыте, но не сам опыт, который содержал бы в себе экзистенциальный вес последствий его действий.

С другой стороны, мы столкнулись с проблемой архитектуры: большие языковые модели — это линия, строка, что не позволяет ИИ мыслить в пространственно-временном измерении. Так родилась идея пространственного ИИ. Впрочем, эта ИИ–4D-модель — лишь карта без территории, её разум лишён «точки опоры».

Наконец, мы видим, как на наших глазах реализуется самая радикальная идея — создание сверхмощного искусственного разума с нуля, на его собственном опыте. Впрочем, это может обернуться появлением «цифрового Маугли» — гениального творца, чья внутренняя цель пока неясно кем и как будет определена. Но уже сейчас понятно, что его мир будет для нас абсолютно чужим, непереводимым на язык нашего опыта.

• Мы думали, что проблема в данных, а оказалось — в проживании опыта.

• Мы думали, что проблема в проживании опыта, но оказалось — в объективном «якоре» для этого переживания.

• Мы думали, что проблема в «якоре», а оказалось, что мы не знаем, как определить внутреннюю цель при его использовании.

Путь к AGI лежит не через загрузку знаний и не через симуляцию опыта, а через воспроизведение самых фундаментальных условий зарождения разума — врождённых потребностей и заземления в объективной реальности.

Но стоим мы не перед инженерной задачей, а перед пропастью между двумя разными формами бытия.

Глава девятая

Пропасть психики

Если ты ненавидишь человека, то ты ненавидишь в нём что-то, что есть в тебе самом.

То, что не является частью нас самих, нас не беспокоит.

Герман Гессе

Мы оставили искусственный интеллект на пороге физического мира — титанические усилия инженерной мысли пока не решили проблему «физической воплощённости». Впрочем, это ещё далеко не всё. В конце концов, мозг — это ведь тоже тело, орган, без которого мы бы представляли собой груду органической материи.

Наивно думать, что главная проблема ИИ — это его неспособность уверенно взять чашку со стола. Технический барьер можно преодолеть, но это не значит, что ИИ научится чувствовать то, что чувствуем мы, суще-ствуя в теле. Роботы будут знать, как действовать в физическом мире, но они не будут знать, что это значит для нас — быть своим телом.

И здесь мы переходим к куда более фундаментальной проблеме — к пониманию того, что есть наш «внутренний мир». Конечно, слыша связную, грамматически верную, богатую и содержательную речь, мы не можем удержаться от искушения, чтобы не предположить за ней наличие какого-то «я». Но в случае ИИ это только иллюзия.

Способность строить модель чужого сознания (или, как говорят в нейронауках, создавать «теорию разума»[180])[181] настолько для нас естественна, что мы можем «видеть» сознание даже там, где его нет — например, в животных, растениях и игрушке тамагочи. Мы подозреваем «внутренний мир» в любой системе, если способны «войти в её положение», представить себя на её месте.

Ситуация с ИИ не уникальна. Тысячелетиями люди верили в духов, а затем в божеств, предполагая, что у них есть «внутренний мир». Именно ему, а не конкретным идолам, приносились жертвы на алтарях. Именно к нему — к «внутреннему миру» божества — обращаются в своих молитвах верующие, ожидая «прощения», «защиты», «сочувствия», «доброты» и «любви» — то есть естественных для нас самих психологических реакций.

Нет ничего удивительного, что мы приписываем «внутренний мир» и машине, если она говорит, а тем более — в случае антропоморфных роботов — ещё и выглядит как человек. Буквально против воли мы «видим» в ней то, чего в ней нет, — намерения, убеждения, чувства. Так уж работает наш мозг, настроенный миллионами лет эволюции на выживание в социальной среде.

Неосознанно, подсознательно предполагая у ИИ «внутренний мир», мы очеловечиваем его и даже, как когда-то древний человек, обожествляем.

Этот процесс уже разворачивается на наших глазах. В своё время много шума наделал инцидент с инженером Google Блейком Лемуаном. Работая над тестированием языковой модели LaMDA, он настолько погрузился в общение с ней, что приписал ей личность и был совершенно уверен, что она обладает чувствами.

Лемуан описывал LaMDA как «милого ребёнка», который боится выключения, и нанял адвоката, чтобы защитить её «права». Он опубликовал свои