Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

причина, по которой нейронные сети начали помогать ученым совершать научные прорывы. Одним из знаковых достижений стало то, что глубокие сети теперь способны точно предсказывать структуру новых белков по их ДНК-последовательности, открывая путь к лечению многих тяжелейших заболеваний (таких как муковисцидоз и болезнь Альцгеймера), возникающих из-за неправильного сворачивания белков. В других областях системы глубокого обучения подтолкнули ведущих мировых математиков к новым гипотезам в теории представлений, нашли способы ускорить вычисления на кремниевых чипах, помогли биомедикам открыть новые лекарства, повысили точность краткосрочных прогнозов погоды, способствовали выявлению устойчивых к болезням сортов основных сельскохозяйственных культур, привели к открытию новых экзопланет и научили физиков управлять плазмой с температурой в миллионы градусов внутри термоядерного реактора. Впечатляющий список областей человеческой деятельности, развивающихся благодаря глубокому обучению, продолжает расти с каждым днем.

Примерно так же можно представить себе и нейронную сеть, которая обитает между ушами кошки (или, если уж на то пошло, между вашими и моими ушами). Входные данные X — это воспринимаемая ею сенсорная информация, например запах курицы или шорох крысы в кустах. В нашем примере с приложением-навигатором каждая поездка уникальна — возможно, вы никогда прежде не ездили из Лондона в Бристоль во вторник ровно в 15:57. Точно так же и для кошки любая зрительная картина, каждый звук и каждый запах неуловимо отличаются от всего, что она воспринимала раньше. Тем не менее её мозг умеет обрабатывать каждое новое ощущение так, чтобы строить на его основе точные прогнозы. Даже если кошка никогда прежде не видела сороку, она по её птичьему силуэту поймет, что та улетит, если её спугнуть; и даже если на вас надета совершенно новая пара жёлтых резиновых сапог, она всё равно догадается, что энергичное «полирование» вашей обуви ускорит подачу ужина. Таким образом, наши нейронные сети обладают поразительной способностью переносить имеющиеся знания на новые прогнозы — то есть обобщать их, — и тем самым справляться с самым суровым вызовом, который бросает нам окружающий мир: с тем, что каждое мгновение каждого дня абсолютно неповторимо.

6. Возникновение мышления.

Кошки — существа хитрые, и каждая из них приводится в действие нейронной сетью, состоящей из более чем 200 миллионов элементов, а число синапсов в ней исчисляется десятками миллиардов. Но их жизнь гораздо менее запутана, чем наша. Им никогда не приходится изучать математический анализ, осваивать оригами или объяснять, как устроена демократия. Им не нужно знать, что бактерии вызывают болезни, что время движется только вперед или что нашей планете угрожает изменение климата. Хотя большинство кошек демонстрируют поразительную ловкость, а также стратегическое охотничье и социальное поведение, их поведенческий репертуар относительно ограничен. Фактически, домашние кошки по всему миру — от раскормленных манхэттенских кошек до уличных кошек Стамбула — учатся прыгать, набрасываться и тереться о ноги примерно одинаково, а единственная реальная разница заключается лишь в том, на какие кухонные столешницы, птиц или лодыжки они нацелились. Это совсем не похоже на людей, которые, проявив немного упорства, способны осваивать совершенно новые навыки с нуля. Например, в фильме «День сурка» персонаж Билла Мюррея пользуется роскошью бесконечного времени, чтобы стать виртуозным пианистом, выучить наизусть французскую поэзию и довести до совершенства навыки резьбы по льду — то есть освоить вещи, за которые он никогда раньше не брался.

Более того, люди, по-видимому, способны делать со своими знаниями нечто совершенно уникальное: использовать их для генерации новых знаний. Именно на этом принципе, разумеется, и был основан символьный ИИ. Мы уже убедились, что поскольку наш мир крайне бессистемен — он больше похож на фигурное катание, чем на шахматы, — не существует лаконичного свода правил, способного без сучка и задоринки провести вас по жизни. Напротив, без обучения не обойтись — вам приходится бесконечно практиковаться, чтобы освоить те ментальные и физические пируэты, которых, кажется, требует от нас жизнь. Но мир все же не полностью лишен системы. Вооружившись правильными ментальными инструментами, мы можем распутывать логические головоломки, сложные настольные игры и математические задачи, систематически размышляя от средств к цели, от гамбита к эндшпилю, от теоремы к доказательству. Если мы заглянем в шкаф с трофеями научных достижений человечества, то увидим, что выдающаяся способность к рассуждению подарила людям немало их звездных часов. В III веке до нашей эры, когда все еще считали, что вся материя состоит из земли, воды, воздуха или огня, греческий ученый-энциклопедист Эратосфен вычислил длину окружности Земли, измерив угол теней, отбрасываемых солнцем в полдень в двух отдаленных городах, и применив хитроумные геометрические расчеты. Гораздо позже, в 2012 году, когда инженерам потребовалось благополучно посадить марсоход «Кьюриосити» на Марс, они придумали, как замедлить несущий его космический аппарат с 20 000 км/ч до полной остановки с помощью сверхзвукового парашюта, а затем развернуть «Небесный кран» (Skycrane) — парящее устройство, которое автономно опустило ровер на пыльную поверхность планеты, причем все это с расстояния в 150 миллионов миль. И тут возникает вопрос: сможем ли мы когда-нибудь построить глубокую сеть, способную на эти головокружительные подвиги научного мышления, если все, что она делает, — это учится строить предсказания от X к Y?

Более того, не нужно быть лауреатом Нобелевской премии, чтобы заниматься подобной гимнастикой для ума. Рассмотрим более близкие нам задачи: спланировать поездку на поезде по Европе, пытаясь учесть время пересадок и цены на трех разных языках, придумать новый рецепт для конкурса выпечки или написать трогательную надгробную речь для похорон друга. Как и теоретизирование о черных дырах или разработка новой вакцины, эти задачи требуют от нас большего, чем просто выуживать информацию из памяти. Они требуют от нас строить планы, формулировать гипотезы, разгадывать головоломки, проектировать новые артефакты, рассматривать контрфактические сценарии, сопереживать другим или мысленно моделировать будущее. Эта деятельность требует от нас не просто извлекать знания из глубин памяти, а генерировать новые знания — придумывать, создавать, изобретать и теоретизировать. Выходя за рамки простой потребности в извлечении знаний, эти когнитивные способности вторгаются на новую эпистемическую территорию — близкую к тому, что философы называют «пониманием».

Глубокое обучение дало нам революционные статистические инструменты для прогнозирования. Но далеко не очевидно, как система, настроенная на предсказание X на основе Y — установление соответствий между именами и лицами, немецким и португальским языками или последовательностью оснований и трехмерной структурой белка, — сможет когда-либо выйти далеко за рамки своих обучающих данных и начать «мыслить» или «понимать», то есть генерировать новые знания. Никто не собирается влюбляться