Эмерджентность: Связанная жизнь муравьев, мозга, городов и компьютерных программ - Стивен Джонсон

«не зная» об алфавите. Рецепт был относительно прост: покажите букву b демонам нижнего уровня и посмотрите, какие из них отреагируют, а какие нет. В случае с буквой b, могут среагировать распознаватели вертикальных линий, а также распознаватели кругов. Эти демоны более низкого уровня сообщат об этом распознавателю букв, находящемуся на одну ступень выше в цепочке. На основе информации, собранной от своих «лейтенантов», этот распознаватель сделает предположение о том, что это за буква. Затем программа «оценивает» эти предположения. Если догадка неверна, программа учится разрывать связь между этими конкретными лейтенантами и данной буквой; если же догадка оказывается верной, она укрепляет связь между лейтенантами и буквой.

Сначала результаты близки к случайным, но если повторить этот процесс тысячу или десять тысяч раз, система учится связывать определенные наборы распознавателей очертаний с конкретными буквами и довольно скоро оказывается способна переводить целые предложения с поразительной точностью. Система не имеет никаких заранее заданных представлений о форме букв — вы обучаете ее связывать буквы с конкретными очертаниями на этапе оценки. (Вот почему программы распознавания рукописного ввода могут адаптироваться к самым разным почеркам, но не могут приспособиться к почерку, который меняется изо дня в день.) Эта смесь случайного начала, организующегося в более сложные результаты, напоминала Селфриджу другой процесс, чей собственный базовый код как раз тогда расшифровывался в виде ДНК. «Набросанная схема — это действительно естественный отбор среди обрабатывающих демонов», — объяснял Селфридж. «Если они выполняют полезную функцию, они выживают и, возможно, даже становятся источником для других субдемонов, которых, в свою очередь, оценивают по их заслугам. Вполне разумно представить себе, что это происходит в более широком масштабе... вместо всего одного «Пандемониума» у нас могло бы возникнуть целое их множество, устроенных примерно одинаково, и мы могли бы применить естественный отбор ко всему этому множеству».

Система, описанная Селфриджем — с ее обучением «снизу вверх» и оценивающими петлями обратной связи — по праву вошла в историю как первое практическое описание эмерджентной компьютерной программы. Сегодня наш мир кишит миллионами его демонов.

*   *   *

Среди студентов МТИ в конце сороковых годов был перебравшийся туда уроженец Среднего Запада по имени Джон Холланд. Холланд также был учеником Норберта Винера, и в студенческие годы он проводил массу времени, урывая часы для работы на первых прототипах компьютеров, которые тогда собирали в Кембридже. Его незаурядное мастерство в программировании привело к тому, что в пятидесятых годах компания IBM наняла его для помощи в разработке своего первого коммерческого калькулятора модели 701. Как ученик Винера, он естественным образом тяготел к экспериментам с методами, которые заставили бы неповоротливую машину 701 обучаться более органичным путем, по принципу «снизу вверх» — подобно «Пандемониуму» Селфриджа. В итоге Холланд с группой единомышленников даже запрограммировали грубую симуляцию взаимодействия нейронов. Но в те времена IBM занималась продажей счетных машин, а потому работа Холланда осталась практически незамеченной и лишенной финансирования. Спустя несколько лет Холланд вернулся к академической деятельности, чтобы получить докторскую степень в Мичиганском университете, где только что была создана группа Logic of Computers («Логика компьютеров»).

В шестидесятых годах, став первым в стране обладателем докторской степени по компьютерным наукам, Холланд начал исследования в направлении, которое определило всю его дальнейшую научную деятельность. Как и Тьюринг, Холланд хотел исследовать, каким образом простые правила могут приводить к сложному поведению; как и Селфридж, он стремился создать программное обеспечение, способное к свободному самообучению. Величайшим прорывом Холланда стало использование сил другой открытой системы, работающей по принципу «снизу вверх» — естественного отбора. Опираясь на модель «Пандемониума» Селфриджа, Холланд взял логику дарвиновской эволюции и воплотил ее в коде. Свое новое творение он назвал генетическим алгоритмом.

Традиционная компьютерная программа представляет собой последовательность инструкций, которые указывают компьютеру, что делать: залить экран красными пикселями, перемножить ряд чисел, удалить файл. Обычно эти инструкции закодированы в виде ветвящихся путей: сначала сделай это, и если получится результат А, сделай одно; если получится результат Б — сделай другое. Искусство программирования заключалось в том, чтобы придумать, как выстроить наиболее эффективную последовательность инструкций — такую, которая выполняла бы максимум задач при минимальном объеме кода и с наименьшей вероятностью сбоя. Обычно это делалось за счет чистой интеллектуальной мощи человеческого разума — ума программиста. Вы размышляли над задачей, набрасывали наилучшее решение, вводили его в компьютер, оценивали результат, а затем дорабатывали код, чтобы сделать его лучше. Но Холланд вообразил иной подход: создать генофонд потенциального программного обеспечения и позволить успешным программам эволюционировать из этого «бульона».

Система Холланда строилась на ряде изящных параллелей между компьютерными программами и земными формами жизни. Существование и тех, и других зависит от главного управляющего кода: нулей и единиц в компьютерном программировании и закрученных спиралей ДНК, скрывающихся в каждой нашей клетке (что принято называть генотипом). Эти два типа кода определяют форму или поведение более высокого уровня (фенотип): например, рост рыжих волос или перемножение двух чисел. В случае с организмами на основе ДНК естественный отбор работает за счет создания огромного пула генетических вариаций с последующей оценкой успешности различных видов поведения, порожденных всеми этими генами. Успешные вариации передаются следующему поколению, в то время как неудачные исчезают. Половое размножение гарантирует, что новые инновационные комбинации генов найдут друг друга. Время от времени в генофонде возникают случайные мутации, открывающие совершенно новые пути для развития системы. Запустите этот процесс на достаточное количество циклов, и вы получите рецепт для создания таких шедевров инженерной мысли, как человеческий глаз — притом что никакого реального инженера и близко не было.

Генетический алгоритм был попыткой воссоздать этот процесс в кремнии. Программное обеспечение уже обладает генотипом и фенотипом, осознал Холланд: существует сам код, и существует то, что этот код фактически делает. Что, если создать генофонд из различных комбинаций кода, а затем оценивать успешность фенотипов, отсеивая наименее удачные цепочки? Естественный отбор опирается на блестяще простой, но отчасти тавтологичный критерий оценки успеха: ваши гены передаются следующему поколению, если вы проживете достаточно долго, чтобы произвести это следующее поколение. Холланд решил сделать этот этап оценки более точным: его программы допускались в следующее поколение, если они лучше справлялись с выполнением конкретной задачи — скажем, решали простые математические примеры или распознавали образы на изображениях. Программист мог определять саму задачу, но не мог напрямую указывать программе, как именно ее решать. Он или она задавали параметры, определяющие генетическую приспособленность, а затем позволяли программе эволюционировать самостоятельно.

Холланд разрабатывал свои идеи в шестидесятых и семидесятых годах, пользуясь в основном бумагой и карандашом — даже