Власть и прогресс - Саймон Джонсон

«Никакой карьеры тут не сделаешь… [Я] уже шесть с половиной лет на этой работе. Вообще ничего не меняется, никакого продвижения. И никаких перспектив. Я спрашивал, может, мне имеет смысл на какие-нибудь курсы походить – мне твердо ответили „нет“».

Однако, несмотря на все, чего это стоит работникам, и на очень скромный, если не сказать эфемерный, выигрыш для производительности, компании, стремящиеся сэкономить на сотрудниках и увеличить контроль над ними, продолжают обращаться к ИИ-технологиям – и в ответ ученые удовлетворяют их спрос на «иллюзию разума».

Но есть ли иной путь – можно ли использовать цифровые технологии не только для бесконечной слежки и автоматизации всего и вся? Да, можно. И когда цифровыми технологиями стремятся не заменить и вытеснить, а поддержать человека, результаты могут быть – и уже бывают – намного лучше.

Дорога, которую не выбрали

В наших интерпретациях прошлого, как далекого, так и недавнего, часто ощущается тенденция к детерминизму: произошло то, что должно было произойти. Зачастую это неверно. История могла бы двигаться самыми разными путями. То же верно и для технологий. Современный подход, доминирующий в третьей волне моды на ИИ, основанный на бесконечном сборе данных и автоматизации всего и вся, – сознательный выбор. И выбор дорогостоящий – не только потому, что, следуя предрассудкам элит, навязывает обществу автоматизацию и слежку, но и потому, что оттягивает энергию и внимание исследователей от других, более плодотворных для общества направлений развития универсальных цифровых технологий. Далее мы увидим, что за парадигмами, опирающимися на практическую значимость машины (ПЗМ), числится немало успехов в прошлом – и что они вполне способны принести плоды в будущем.

Еще до Дартмутской конференции Норберт Винер, разносторонне одаренный ученый из МТИ, сформулировал иное видение – такое, в котором машины лишь дополняют человека. Винер руководствовался понятием практической значимости, хоть самого этого термина еще не существовало. Чего мы хотим от машин? Не какого-то трудноопределимого «разума» или «высокоуровневых возможностей» – наша цель очень проста: они должны помогать людям. И чтобы этого добиться, лучше сосредоточиться не на ИИ, а на ПЗМ.

Винер назвал три критические проблемы, преграждающие человечеству путь к мечте Тьюринга об автономно мыслящих механизмах. Во-первых, превзойти и заменить человека машинам будет нелегко, поскольку они всегда очень плохо подражают живым существам. Как заметил Винер в немного ином контексте, «лучшая материальная модель кошки – это другая или, еще лучше, та же самая кошка».

Во-вторых, автоматизация оказывает мгновенное негативное воздействие на трудящихся людей:

«Давайте не будем забывать, что машина-автомат, независимо от того, что мы думаем о ее чувствах или их отсутствии, в экономическом смысле представляет собой точный эквивалент раба. Так что живому человеку, чтобы конкурировать с машиной, придется соглашаться на рабские условия».

И наконец, жажда повсеместной автоматизации означает, что ученые и технологи скоро потеряют контроль над развитием технологии. Не следует жертвовать

«…постоянной обратной связью, тем, что позволяет индивиду вмешаться и остановить уже начатый процесс, нельзя отказываться от возможности передумать и пересмотреть свои желания, столкнувшись с неожиданными последствиями».

Однако ничто из этого не было неизбежным; машины вполне могли бы стать верными и надежными слугами человечества. Как писал Винер в 1949 году в черновике статьи для «Нью-Йорк таймс» (он опубликован в сокращении в 2013 году), «мы можем проявить смирение и с помощью машин жить в свое удовольствие – а можем предаться гордыне и погибнуть».

Факел Винера подхватили еще двое идеологов. Первым стал Дуглас Энгельбарт: он также высказывал идеи, предвосхитившие нынешнее понятие практической значимости. Энгельбарт стремился сделать компьютеры более полезными и простыми в обращении для обычных людей, не специалистов, основываясь на убеждении, что больше всего пользы они принесут, если «усилят человеческую способность справляться со сложными и неотложными проблемами».

Важнейшие свои инновации Энгельбарт продемонстрировал самым впечатляющим образом – на шоу, которое позже окрестили «Матерью всех демо». На этом мероприятии, организованном 9 декабря 1968 года Ассоциацией вычислительных машин совместно с Институтом электрической и электронной инженерии, Энгельбарт впервые познакомил публику с прототипом компьютерной мыши. Это устройство, состоявшее из большого ролика, деревянной рамки и единственной кнопки, мало походило на привычную нам мышь; однако торчащие сзади провода придавали ему сходство с грызуном, отчего оно и получило свое название. Мышь совершенно преобразила возможности пользователей: то, для чего прежде требовался набор сложных команд, теперь можно было достичь одним «кликом». Это изобретение помогло компьютерам Macintosh Стива Джобса и Стива Возняка обогнать на рынке персональные компьютеры и операционные системы на базе Microsoft (прежде чем Microsoft тоже начал использовать мышь). Среди других изобретений Энгельбарта, в том числе показанных на «Матери всех демо», – гипертекст (основной принцип работы нынешнего Интернета), растровые экраны (благодаря которым стали возможны и другие, самые разнообразные интерфейсы) и ранние версии графического интерфейса пользователя. Из идей Энгельбарта впоследствии выросли и другие инновации, особенно под эгидой компании Xerox, – и многие из них тоже оказались критически важны для Macintosh и других компьютеров.

Второй проповедник этого альтернативного видения, Дж. К. Р. Ликлайдер, стремился убедить людей принимать и развивать цифровые технологии продуктивным образом. Психолог по образованию, со временем Ликлайдер занялся информационными технологиями; он предлагал идеи, впоследствии сыгравшие важную роль в создании сетевых компьютеров и интерактивных компьютерных систем. Четкое и ясное выражение его видения содержится в программной статье 1960 года «Человеко-компьютерный симбиоз». И сейчас, через 60 лет после публикации, анализ Ликлайдера остается актуальным – особенно его акцент на том, что

«…в сравнении с человеком вычислительные машины очень аккуратны и точны, однако их ограничивает то, что они способны выполнять лишь одну или несколько элементарных задач одновременно. Люди более гибки, они умеют „сами себя перепрограммировать“ в реальном времени на основе получаемой новой информации».

Альтернативное видение Винера, Энгельбарта и Ликлайдера заложило основы некоторых наиболее плодотворных тенденций в сфере цифровых технологий – даже если сейчас их заслоняет грандиозная иллюзия ИИ. Чтобы понять, что это за достижения, и разобраться в том, почему они не привлекают такого внимания, как успехи господствующей парадигмы, для начала обсудим, как работает ПЗМ на практике.

Практическая значимость в действии

Можно назвать четыре взаимосвязанных, но различных пути развития цифровых технологий в направлении практической значимости – том, где они могут помогать нам и делать нас сильнее.

Во-первых, машины и алгоритмы могут увеличивать производительность работника в тех задачах, которые он уже выполняет. Когда умелый ремесленник получает хороший резец или архитектор – доступ к графическому проектировщику, их производительность может значительно возрасти. Такое возрастание производительности необязательно связано с новыми инструментами –