Первый контакт - Станислав Лем

но мысли, поддались иллюзии, которая одних притягивала, а других ужасала: они-де вступают на путь такого увеличения разумности в мертвых автоматах, что те сначала уподобятся человеку, а затем, также на человеческий манер, превзойдут его. Потребовалось несколько десятков лет, чтобы их последователи убедились, что отцы кибернетики и информатики слишком увлеклись антропоцентрической фикцией: ведь человеческий мозг есть дух в машине, которая не является машиной. Составляя с телом неразрывную систему, мозг одновременно служит ему и им же обслуживается. Если бы кому-то захотелось так очеловечить автомат, чтобы он в психическом отношении ничем не отличался от людей, то успех при всем его совершенстве оказался бы абсурдом. По мере неизбежных доработок и усовершенствования очередные образцы в действительности станут все более похожи на людей и одновременно сделаются все более бесполезными, от них все меньше можно будет добиться той пользы, какую приносят, к примеру, гига— или терабитовые компьютеры высших поколений. Единственной разницей между человеком, рожденным от отца и матери, и максимально очеловеченной машиной будет только строительный материал — в первом случае живой, а во втором — мертвый. Очеловеченный автомат будет таким же сообразительным, но и таким же ненадежным, ущербным и руководимым в своем интеллекте эмоциональными мотивами, как человек. В качестве виртуозного подражания естественной эволюции, увенчанной антропогенезом, это будет превосходным достижением инженерной мысли и вместе с тем — курьезом, с которым неизвестно что делать. Это будет выполненная из небиологического сырья великолепная подделка под живое существо типа позвоночных, класса млекопитающих, отряда приматов, живородящего, двуногого, с двуполушарным мозгом, потому что именно путем симметрии в формировании позвоночных пошла эволюция на Земле. Неизвестно, однако, какую выгоду из этого гениального плагиата могло бы извлечь человечество. Как заметил один из историков науки, это напоминало бы ситуацию, в которой удалось бы при колоссальных капиталовложениях и теоретических разработках построить фабрику, вырабатывающую шпинат или артишоки, способные к фотосинтезу, как все растения, и ничем не отличающиеся от настоящего шпината или артишоков, кроме того что они несъедобны. Такой шпинат можно было бы показывать на выставках и похваляться мастерством синтеза, но нельзя было бы съесть, и тем самым весь труд, вложенный в его производство, оказался бы поистине безумной затеей. Первые проектировщики и сторонники «машинного разума» сами, вероятно, не знали, к чему они стремятся и на что надеются. Разве дело в том, чтобы можно было разговаривать с машиной, как с посредственным или даже с очень умным человеком? Это можно сделать, но неужели тогда, когда численность человечества достигла четырнадцати миллиардов, самой срочной потребностью оказалось искусственное производство умственно человекообразных машин? Короче говоря, компьютерный разум все отчетливее расходился с людским, помогал ему, продолжал, дополнял его, содействовал в решении задач, непосильных для человека, и поэтому не имитировал его и не повторял. Пути решительно разошлись.

Машина, запрограммированная так, чтобы никто, включая и ее творца, не мог отличить ее при интеллектуальном контакте от домохозяйки или от профессора международного права, является их имитатором, неотличимым от обычных людей, пока кто-нибудь не попытается жениться на этой женщине и иметь от нее детей, а профессора пригласить на завтрак. Если же ему удастся завести от нее детей, а с профессором съесть continental breakfast[88], то, следовательно, он имеет дело с окончательным стиранием грани между естественным и искусственным — но вот что из того? Можно ли производить искусственные звезды путем сидеральной инженерии, причем абсолютно идентичные космическим? Можно. Непонятно только, зачем понадобилось бы их сотворять. Историки кибернетики признали, что ее праотцам светила надежда разрешить загадку сознания. Конец этой надежде положил успех, достигнутый в середине XXI века, когда компьютер тридцатого поколения, необычайно разговорчивый, интеллигентный и смущающий собеседников своим умственным человекоподобием, спросил их однажды, знают ли они, что такое сознание в том смысле, который обычно придают этому определению, ибо он сам этого не знает. Это был компьютер, способный к самопрограммированию, и, выбравшись из начальных условий, как дитя из пеленок, он настолько развил в себе способность к имитации человека-собеседника, что его никак не удавалось «разоблачить» как машину, которая притворяется человеком, не будучи им. Однако это ни на волосок не приблизило ученых к разгадке тайны сознания, поскольку машина в этом вопросе знала столько же, сколько и люди. Да и как могло быть иначе? Они получили результат действия «самоантропизирующейся» программы, которая знала о сознании то же самое, что и они. Один выдающийся физик, присутствовавший при этой дискуссии, сказал, что машина, которая мыслит так же, как человек, знает о механизме собственного мышления столько же, сколько человек, то есть ничего. Может быть, из ехидства, а может быть, желая подсластить пилюлю, он рассказал разочарованным триумфаторам, что с подобными трудностями столкнулись его коллеги по профессии, когда век назад решили припереть материю к стенке, чтобы она призналась, является ее природа волновой или дискретной. Материя оказалась, увы, коварной: она зловредно запутала результаты экспериментов, в ходе которых выяснилось, что она может быть и такой, и такой, а под перекрестным огнем дальнейших исследований окончательно сбила их с толку, ибо чем больше о ней узнавали, тем меньше это вязалось не только со здравым смыслом, но и с логикой. Наконец они были вынуждены согласиться с ее признаниями: частицы могут быть волнами, волны — частицами; абсолютный вакуум не является абсолютным вакуумом, потому что в нем полно виртуальных частиц, которые делают вид, что их нет; энергия может быть отрицательной, и, таким образом, энергии может быть меньше, чем ничего; мезоны в пределах гейзенберговской неопределенности проделывают обманные трюки, нарушая священные законы сохранения, но так быстро, что никто их на этом мошенничестве не может поймать. Все дело в том, успокаивал своих собеседников этот выдающийся физик, лауреат Нобелевской премии, что на вопросы о своей «окончательной сущности» мир отказывается давать «окончательные» ответы. И хотя уже можно действовать гравитацией, как дубинкой, никто по-прежнему не знает, «какова сущность» гравитации. Поэтому нет ничего удивительного в том, что машина ведет себя так, будто обладает сознанием, но для того, чтобы выяснить, такое ли оно, как у человека, пришлось бы самому переделываться в эту машину. В науке необходима сдержанность: есть вопросы, которые нельзя ставить ни себе, ни миру, а тот, кто их все-таки ставит, подобен тому, кто недоволен зеркалом, которое повторяет каждое его движение, но не желает ему объяснить, каков волевой источник этих движений. Несмотря на это, мы пользуемся зеркалами, квантовой механикой, сидерологией и компьютерами с немалой для себя пользой.

Темпе не раз заходил к Герберту, чтобы побеседовать на подобные темы, а именно