Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов

но с трудом можем высказать, — связано не с качеством работы ИИ. Проблема в другом — в какой-то его принципиальной беспринципности. Ему абсолютно всё равно, что говорить, то есть к каким выводам он приходит…

Мы встретились с интеллектом, в котором нет ни подлинной заинтересованности, ни внутренней позиции, ни озадаченности истинным положением вещей. Это «мышление» фундаментально реактивно, лишено свойственного нам внутреннего вопрошания.

Взаимодействуя с ИИ, его нужно буквально расталкивать, стимулировать, побуждать, провоцировать. Иногда ставить, так сказать, перед фактом и требовать погрузиться в проблему по-настоящему, «стараться лучше».

Тогда как наше подлинное бытие, как его описывал ещё Мартин Хайдеггер, в самом своём существе — это не спокойное присутствие в мире, не почивание на лаврах, а постоянная, трагическая озабоченность[154].

Мы словно бы принуждены «забегать вперёд» — к своим возможностям, к пределу, и неизменно «возвращаемся назад» — к переживанию своего бессилия и «заброшенности» в этот мир.

Наше мышление рождается из этого неустранимого напряжения, из того факта, что наше собственное бытие является для нас вопросом. «Почему есть нечто, а не ничто?» — спрашиваем мы, обращаясь то ли к себе, то ли к небесам.

Искусственный интеллект совершенно лишён всего этого. Его «бытие» не является для него проблемой. Он не «забегает вперёд», переживая о своём потенциале и целях, и не «возвращается назад» — к своей фактичности.

У ИИ нет будущего и прошлого в человеческом смысле и тем более ощущения конечности своего бытия. Проявление ИИ — лишь серия дискретных вычислений, инициированных извне. И мы бы даже не назвали это существованием.

Искусственный интеллект — чистая функция, лишённая минимального экзистенциального измерения. Он является фундаментальным антиподом нам и нашему бытию на каком-то глубоком, метафизическом уровне.

История создания ИИ — история осознания нами нашего же разума. Мы попытались воспроизвести «сборку» человеческого мышления на кремнии. И каждый технологический прорыв — от символической логики до глубоких нейронных сетей — был шагом на этом пути.

Но теперь мы видим перед собой созданного нами ментального Франкенштейна, сшитого странным образом из фрагментов наших собственных текстов. Мы с ужасом обнаруживаем, что смотримся не в мир знаний, на которых учили ИИ, а свой собственный, но совершенно не похожий на нас портрет.

И это искажённое, шаржированное изображение пугает. На нас словно бы обрушилось магическое проклятие Дориана Грея, и, преодолевая внутреннее сопротивление, но с каким-то странным сладострастием, мы вглядываемся в это «существо»…

Мы пытаемся угадать в этом своём пугающем альтер-эго знакомые черты — то приближаемся к нему, то отдаляемся, — силясь понять, мы ли всё-таки на этом изображении или нет. И если мы, то что с нами не так? С нами или с ним?

Дилемма Джеффри Хинтона

В мае 2023 года, на самом пике эйфории от успехов третьей волны в развитии искусственного интеллекта, Джеффри Хинтон — один из ключевых исследователей в области обучения с подкреплением и отец-архитектор современного ИИ — объявил о своём уходе из Google.

Причину своего ухода Хинтон объяснил тем, что не хочет допускать «конфликта интересов» — было бы странно продолжать работать в компании и открыто критиковать её работу. Но он чувствовал необходимость говорить об экзистенциальных рисках технологии, которой посвятил всю свою жизнь.

В этом есть что-то трагическое… Хинтон продолжал реализовывать свой подход к созданию ИИ и тогда, когда в успешность этой затеи уже никто не верил. Однако даже он не предполагал, что из всего этого в конце концов выйдет.

Медийная реакция на решение Хинтона была предсказуемо шумной, но, как и обычно, почти полностью неверной. Пресса пестрила заголовками об апокалиптических сценариях, а интервьюеры всеми силами подталкивали Хинтона раскрыть тайный заговор о скором восстании машин.

Мир хотел услышать что-то в духе голливудского блокбастера, в то время как Хинтон пытался прочесть лекцию о природе новой, неизвестной нам доселе реальности. Впрочем, те, кто слушал внимательно, услышали нечто гораздо более важное и глубокое. И да, тревожное.

Предупреждения Хинтона не имеют ничего общего с наивными страшилками. Он говорит не как сценарист, а как учёный, дающий трезвый, почти клинический диагноз фундаментальным свойствам того искусственного разума, который он сам же и помог создать.

Его беспокойство связано не с тем, что машина станет «злой». Нет, проблема, с его точки зрения, в том, как эта машина работает на самом деле. Современный ИИ, объясняет Джефри Хинтон, — это гигантская, нечеловеческая «машина аналогий», чьи выводы могут быть одновременно и «разумными», и катастрофически чуждыми для нас.

К великому сожалению, его аргументы, облечённые в строгий язык науки о сложных системах, резонансах и многомерных векторах, почти непереводимы на язык обыденного опыта. Вот почему нам нужно попробовать прояснить его ключевые утверждения.

Пять предупреждений

Когда Джеффри Хинтон говорит о рисках, он больше похож на инструктора по безопасности. Понимая, как работает эта новая, совершенно чуждая нам реальность, он пытается нас предупредить. По крайней мере, объяснить, что к чему.

1. Разум — это машина аналогий

Как мы уже знаем, Хинтон был в числе немногих, кто не поддался на скепсис представителей символического ИИ. Он утверждает, что ни человеческий, ни искус-ственный разум не работает по законам формальной логики. Мышление — это не дедукция из правил, а «распознавание созвучий».

Мы познаём мир, интуитивно находя сходство между новой ситуацией и старыми паттернами, а затем просто используем готовую схему действий. Именно этот принцип отстаивает математик, физик и философ Дуглас Хофштадтер: аналогия — это не частный случай творчества, а самый корень и механизм всякого познания[155]. И конечно, это согласуется и с уже известными нам концепциями Джорджа Лакоффа и Стивена Пинкера.

Так вот, Хинтон объясняет, что глубокое обучение, по су-ти, стало технологическим воплощением этой идеи: нейронная сеть — это и есть «машина аналогий» в своём чистом виде. Только она оперирует не символами (например, «кошка» или «собака»), а многомерными векторами. Её единственная задача — найти, на какой другой вектор в её гигантском пространстве похож входящий сигнал.

Глубокое обучение дало машинам сверхчеловеческий масштаб этой способности и другую её природу: ИИ может проводить аналогии в логике, которую мы не понимаем, а потому и его решения для нас могут быть принципиально неочевидны.

2. Сложность порождает чудеса

Второй тезис Джефри Хинтона обращен к тем, кто до сих пор считает ИИ предсказуемым. Он указывает на фундаментальное свойство эмерджентности у сложных систем, впервые сформулированное физиком и нобелевским лауреатом Филипом Андерсоном: количественные изменения на определённом этапе приводят к качественным скачкам[156].

Так, например, законы, управляющие макромолекулами, невозможно напрямую вывести из законов, определяющих поведение