Как мы меняем мир - Стефан Кляйн

развил идею Ады. Он предсказал «взрывное развитие интеллекта», и, к сожалению, не нашего собственного. Он считал, что сверхразумные машины смогут управлять всем и вся. «Поскольку создание подобных машин является одним из таких интеллектуальных навыков, сверхразумная машина сможет создавать машины, которые превзойдут ее саму, – предупреждал Гуд. – Таким образом, первая сверхразумная машина – это последнее изобретение, которое должен совершить человек». С появлением такого сверхразума – за этим событием закрепился термин «сингулярность» – творческое мышление людей станет неактуальным и история человечества закончится. Миром станут править саморазвивающиеся машины. Они покажутся Homo sapiens богами, чьи действия человек уже не сможет понять.

Когда Гуд писал эти строки, компьютеры с мощностью человеческого мозга казались утопией. В 1965 году вычислительные машины все еще программировались с помощью перфокарт и имели только 16 килобайт памяти. Сегодня каждая карта памяти размером с ноготь, например в смартфоне, хранит в миллионы раз больше данных. Чтобы вместить информацию, хранящуюся в памяти человека, потребуется от сотни тысяч до миллиона таких микросхем, потому что, согласно новым оценкам, мозг может вместить не менее одного петабайта[151]. Мощность современных смартфонов примерно соответствует мозгу муравья.

Однако сейчас уже существуют большие машины, которые достигли вычислительной мощности человеческого мозга. В 2018 году суперкомпьютер, установленный в государственной лаборатории Ок-Ридж в американском штате Теннесси, впервые превзошел человеческий разум. Машина, получившая название «Саммит», не только сохраняет десять петабайт данных, но и может накапливать во много раз больше информации, чем человеческий мозг, даже если его мощность использовать очень щедро. «Саммит» к тому же работает намного быстрее, чем наши нейроны: машина обрабатывает несколько эксафлоп, то есть более миллиарда миллиардов арифметических операций в секунду. Еще более мощный компьютер под названием Fugaku планируется создать в Японии в 2021 году[152].

Таким образом, случилось то, что предсказывали футурологи. Поразительно, что Рэй Курцвейл предсказал компьютер с вычислительной мощностью нашего мозга, увидевший свет только в 2019 году[153]. Одиозный американский изобретатель и писатель опубликовал свой прогноз в последние дни прошлого века, но он ошибался относительно цены и размеров устройств. Курцвейл ожидал, что такое устройство можно будет купить для домашнего пользования за 4000 долларов. На самом деле «Саммит» стоит 200 миллионов и занимает целый зал. Через несколько лет после создания компьютера, который вычисляет быстрее и хранит больше данных, чем наш мозг, как считал Курцвейл, начнется рассвет сверхразума. Безнадежно отстав от машин, человеческий разум, рожденный в мозге, перестанет быть творческой силой в мире.

Курцвейла, которому компьютерные технологии обязаны изобретением автоматического распознавания символов, с одной стороны, часто критиковали за его смелые прогнозы. Его авторитет упал, когда он объявил, что заморозит собственное тело в жидком азоте после смерти, и вдобавок завещал, что информация, хранящаяся в его мозге, должна быть загружена в компьютер с использованием технологии будущего, чтобы его призрак мог жить вечно как запись данных. С другой стороны, не только Курцвейл предупреждал об опасности того, что искусственный интеллект лишит людей могущества и управления миром. В 2015 году 150 ведущих ученых-компьютерщиков мира, в том числе Билл Гейтс и Стивен Хокинг, подняли тревогу в открытом письме. Стюарт Рассел, автор авторитетного учебника по искусственному интеллекту, сравнил риск, связанный с новой технологией, с угрозой, исходящей от ядерного деления, – уничтожение человечества.

Так станем ли мы лишними, ненужными из-за развития искусственного интеллекта? Современному обществу нужны быстрые компьютеры с огромной памятью. Поскольку такие компьютеры уже существуют, возникают фундаментальные вопросы: смогут ли машины выполнять все мыслительные процессы, происходящие в наших головах? Что вообще представляет собой мышление?

Ада Лавлейс увидела возможность того, что машины могут конкурировать с человеческим мозгом. Но талантливой изобретательнице не хватило времени более внимательно изучить волновавшие ее вопросы. Ада умерла от рака матки, когда ей было всего 36 лет. После ее смерти в 1852 году о ее творчестве забыли. Перспектива машин с интеллектуальными способностями казалась слишком далекой от реальности.

Лишь восемь десятилетий спустя молодой английский математик снова занялся этой темой. Алан Тьюринг, как когда-то Ада Лавлейс, мечтал о машине, которой еще не существовало. Но он хотел не просто создать новую технологию. У двадцатичетырехлетнего ученого была еще более амбициозная цель: изучить само мышление[154].

Ада пыталась исследовать человеческий разум с помощью аналитической машины, Тьюринг пошел противоположным путем: он взял «компьютер» в качестве модели. В 1936 году это слово означало служащих, в основном женщин, которые занимались вычислениями на бумаге. «Что именно представляет собой эта деятельность?» – задался вопросом Тьюринг. И как должно выглядеть устройство, заменяющее человеческие компьютеры?

Тьюринг придумал гениально простое решение: полоска бумаги, считывающая головка и ручка. Бумага хранит информацию, считывающая головка ее декодирует, а ручка изменяет. Простое управление заставляет считывающую головку и ручку перемещаться влево и вправо по бумаге и заменять отдельные символы. Тьюринг утверждал, что это простое устройство может обрабатывать все возможные вычисления, которые когда-либо выполняли люди. Его машина обладала такими же способностями, как живые компьютеры, – это и был компьютер.

Считается, что построить компьютер, способный на большее, чем машина Тьюринга, в принципе невозможно. В любом случае, сегодня никто не продемонстрировал хотя бы теоретически, как может выглядеть такой гиперкомпьютер. Можно даже доказать, что все компьютеры, которые существуют сегодня, в лучшем случае, являются всего лишь разновидностью машины Тьюринга – или уступают ей[155]. В них полоска бумаги заменена жестким диском или каким-либо другим носителем данных, а информацией вместо считывающей головки и пера манипулируют электронные схемы. Но это не имеет значения. Все, с чем могут справиться компьютеры, так же легко можно сделать с помощью бумаги, ручки и терпения.

Тьюринг также рассматривал мозг как одну из своих машин[156]. В конце концов, его принцип работает независимо от того, состоит ли устройство из мертвой или живой материи. С абстрактной точки зрения математика все компьютеры одинаковы. Теория Тьюринга – это не дискредитация нашего разума. Напротив, она рассказывает, что не надо ценить искусственный интеллект больше, чем он того заслуживает: машины никогда не сделают ничего, на что человеческий разум в принципе не способен. Просто они работают быстрее нас.

«Машины Тьюринга: эти машины – люди, которые вычисляют», – отмечал философ Людвиг Витгенштейн[157]. Сам Тьюринг выразился наоборот: «Человек с бумагой, карандашом и ластиком, подчиненный строгой дисциплине, является универсальной машиной».

Он лично проявил себя в качестве «подопытного кролика» для испытания универсальной машины. Летом 1948 года он и его коллега начали писать первую в истории компьютерную игру. Но после многих лет работы над шахматной программой под названием «Турошам» выяснилось,