Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

вы сумеете отбросить давление общепринятого мнения (то есть суждения «тепло — это движение» как чего-то обыденного, а суждения «тепло — это не движение» как странного). Я имею в виду, представьте: завтра физики выступят и заявят: «В наших научно-популярных книгах всегда скрывалась одна ложь. На самом деле тепло не имеет никакого отношения к движению». Смогли бы вы доказать, что они неправы?

Сказать «Может, тепло и движение — это одно и то же!» легко. Трудность заключается в том, чтобы объяснить, как именно. Требуется огромный объем подробных знаний, чтобы дойти до состояния, когда вы больше не можете представить себе мир, в котором эти два явления существуют независимо друг от друга. Редукция обходится недешево, и именно поэтому она так много дает.

Или, возможно, вы могли бы сказать: «Редукционизм — это легко, редукция — это трудно». Но мне кажется, что быть редукционистом всё же весьма полезно, когда приходит время эту самую редукцию искать.

*

1. Хилари Патнэм, «Значение „значения“» в The Twin Earth Chronicles, под ред. Эндрю Пессина и Сэнфорда Голдберга (M. E. Sharpe, Inc., 1996), 3–52.

217. Прорыв в исследовании мозга! Он состоит из нейронов!

Совершив поразительный прорыв, международная группа ученых под руководством нобелевского лауреата Сантьяго Рамона-и-Кахаля объявила, что мозг состоит из до смешного сложной сети крошечных клеток, соединенных друг с другом бесконечно малыми нитями и ответвлениями.

Эта международная группа, в состав которой также входят знаменитый мастер Антони ван Левенгук и, возможно, Имхотеп, возведенный в ранг египетского бога медицины, сделала следующее заявление:

«Настоящее открытие венчает годы исследований, указывавших на то, что извилистая склизкая штуковина внутри наших черепных коробок устроена еще сложнее, чем кажется на первый взгляд. Благодаря тому, что Кахаль применил новый метод окрашивания, изобретенный Камилло Гольджи, мы узнали, что эта структура представляет собой не непрерывную сеть наподобие кровеносных сосудов тела, а на самом деле состоит из множества крошечных клеток, или “нейронов”, соединенных друг с другом еще более тонкими волокнами.

Другие многочисленные свидетельства, начиная от трудов древнегреческого врача Алкмеона и заканчивая исследованиями нарушений речи Поля Брока, указывают на то, что мозг является вместилищем разума.

Немезий, епископ Эмесский, ранее утверждал, что мозговая ткань слишком вещественна, чтобы служить посредником между телом и душой, и потому умственные способности располагаются в желудочках мозга. Однако если это так, то нет никаких причин, по которым этот орган должен обладать столь невероятно сложным внутренним устройством.

Чарльз Бэббидж независимо от других предположил, что множество мелких механических устройств можно объединить в “Аналитическую машину”, способную выполнять действия (например, арифметические вычисления), для которых, по общему мнению, требуется мышление. Работы Луиджи Гальвани и Германа фон Гельмгольца указывают на то, что активность нейронов имеет электрохимическую природу, а не является результатом механического давления, как считалось ранее. Тем не менее мы считаем, что аналогия с “Аналитической машиной” Бэббиджа позволяет предположить, что чрезвычайно сложная сеть нейронов аналогичным образом способна проявлять способность к мышлению.

Мы обнаружили чрезвычайно сложную материальную систему именно там, где должен находиться разум. Последствия этого открытия ошеломительны, и мы должны прямо взглянуть им в лицо. Мы полагаем, что данное исследование предоставляет веские экспериментальные доказательства того, что Бенедикт Спиноза был прав, а Рене Декарт ошибался: разум и тело суть одна субстанция.

В сочетании с трудами Чарльза Дарвина, показавшими, как столь сложный орган мог в принципе возникнуть в результате процессов, сами по себе не обладающих интеллектом, вся совокупность научных данных теперь, по-видимому, указывает на то, что разум онтологически не фундаментален и имеет протяженное во времени происхождение. Это свидетельствует решительно против теорий, приписывающих ментальным сущностям онтологически фундаментальный или причинно-первичный статус, включая все когда-либо изобретенные религии.

Предстоит еще проделать огромную работу по установлению тождества между конкретными электрохимическими взаимодействиями нейронов и мыслями. Тем не менее мы верим, что наше открытие обещает — пусть пока и не реализует — полное научное объяснение мышления. Теперь эту проблему можно объявить если не решенной, то по крайней мере разрешимой».

Мы сожалеем, что Кахаль и большинство других исследователей, участвовавших в Проекте, более недоступны для комментариев.

*

218. Когда антропоморфизм стал глупостью. Оказывается, у большинства вещей во Вселенной нет разума.

У многих ранних культур это утверждение вызвало бы недоверие. Обычно это называют «анимизмом». Люди полагали, что у деревьев, камней, ручьев и холмов есть духи — ведь, в самом деле, почему бы и нет?

В самом деле, если куски плоти, известные как «люди», содержат мысли, почему бы кускам дерева, известным как «деревья», тоже их не содержать?

Мои мышцы сокращаются по моей воле, а вода течет в реке. Кто сказал, что у реки нет воли двигать эту воду? Река выходит из берегов и затапливает место сбора моего племени — почему бы не подумать, что она разозлилась, раз уж привела свои части в движение, чтобы навредить нам? Именно так мы бы и подумали, если бы чей-то кулак врезался нам в нос.

Нет никаких очевидных причин — во всяком случае, очевидных охотнику-собирателю, — почему этого не может быть. Это кажется глупой ошибкой лишь тогда, когда вы путаете странность с глупостью. Естественно, вера в духов, одушевляющих реки, кажется нам «странной», ведь наше племя в это не верит. Но нет ничего очевидно глупого в мысли, что у огромных масс движущейся воды есть духи, точно так же как они есть у наших собственных кусков движущейся плоти.

Будь эта идея очевидно глупой, в нее никто бы не поверил. Точно так же, как на протяжении веков никто не верил в очевидно глупую мысль, будто Земля движется, хотя кажется неподвижной.

Разве очевидно, что деревья не умеют думать? Деревья, не будем забывать, на самом деле приходятся нам дальними родственниками. Если заглянуть достаточно далеко в прошлое, у вас обнаружится общий предок с папоротником. И раз уж куски плоти могут мыслить, почему кускам дерева этого делать нельзя?

Чтобы вам стало очевидно, что дерево не мыслит, вы должны принадлежать к культуре, в которой есть микроскопы. И не какие-нибудь микроскопы, а действительно хорошие.

Аристотель считал мозг органом для охлаждения крови. (К счастью, наши представления о собственном мозге почти никак не влияют на его реальную работу.)

Египтяне при мумификации просто выбрасывали мозг.

Алкмеон Кротонский, пифагореец V века до н. э., указал на мозг