Создатель ChatGPT: История Сэма Альтмана - Кич Хэйги

завышенной, и он сократил инвестиции Founders. Через несколько лет Zenefits рухнул, не сумев достичь амбициозных целей роста, оправдывающих такую оценку, и наладить отношения с индустрией здравоохранения. Инвестиции практически обнулились. В 2016 году временным гендиректором компании стал Дэвид Сакс – друг Тиля со студенческих времен, коллега по Stanford Review и ветеран PayPal.

Похоже, безудержный рост достиг своего пика.

Одна из инвестиций Тиля оказала судьбоносное влияние на карьеру Альтмана и будущее искусственного интеллекта. Как и Альтман, Тиль был одержим идеей, что компьютеры однажды станут умнее людей и запустят самоподдерживающийся цикл экспоненциального технологического прогресса – классический сюжет научной фантастики, известный как сингулярность. Термин ввел в 1950-х математик и участник Манхэттенского проекта Джон фон Нейман, а в 1980-х популяризировал знаменитый фантаст Вернор Виндж. Друг Винджа Марк Стиглер, совмещавший работу над кибербезопасностью для Управления перспективных исследовательских проектов министерства обороны США (DARPA) с написанием футуристических романов, вспоминал один из дней на научно-фантастическом конвенте: «Мы с Винджем сидели в ресторане и делились сюжетами, которые никогда не напишем – слишком уж они были ужасающими и реалистичными одновременно. Боялись, что какой-нибудь псих возьмет и воплотит их в жизнь».

Среди тех, на кого повлияла проза Винджа, был Элиезер Юдковский. Он родился в 1979 году в Чикаго в ортодоксальной еврейской семье. Его мать работала психиатром, а отец – физик и заядлый поклонник фантастики, занимался распознаванием речи в Bell Labs и Intel. Элиезер уже в семь лет увлекся научной фантастикой, а в девять начал писать. В 11 в тесте SAT, который пишут выпускники школ, он набрал 1410 баллов (из 1600 возможных). В седьмом классе он бросил школу, заявив родителям, что больше не может ее выносить. К 17 годам он с болью осознал, что не похож на других людей, и создал веб-страницу с заявлением: «Я гений, но не нацист». Он отказался от определения «подросток мужского пола», предпочитая называть себя Элджерноном – в честь лабораторной мыши с повышенным интеллектом из знаменитого рассказа Дэниела Киза. Благодаря Винджу он нашел смысл жизни: «Единственная цель этой страницы, этого сайта, всего, что я делаю как Элджернон, – приблизить сингулярность»[171].

Примерно тогда же Юдковский подписался на малоизвестную рассылку общества экстропианцев – им была посвящена статья в журнале Wired в 1994 году, в которой был указан электронный адрес. Экстропианство, основанное философом Максом Мором в 1980-х, представляло собой форму радикального технооптимизма, нацеленного на борьбу с энтропией – универсальным законом распада и стремления к хаосу. На практике это означало договор о заморозке тела (или хотя бы головы) при температуре –196 °C в криоцентре Alcor в Скоттсдейле, в штате Аризона. Когда человечество достигнет нужного технологического уровня, их можно будет разморозить и вернуть к жизни. В философском плане борьба с энтропией строилась на пяти принципах: безграничное расширение, самотрансформация, динамический оптимизм, интеллектуальные технологии и спонтанный порядок. Динамический оптимизм, например, предполагал технику избирательной фокусировки – концентрацию исключительно на позитивных аспектах любой ситуации.

Робин Хэнсон, участвовавший в этом движении и позже прославившийся созданием рынков предсказаний, вспоминал экстропианские вечера в особняках Пало-Альто: «Меня они заряжали энергией – столько интересных идей! А жену это все отталкивало, потому что преподносилось довольно неуклюже и выглядело странновато. Мы все считали себя провидцами будущего, которых остальные просто не понимают. Рано или поздно мы окажемся правы – вот только когда именно?»

Соучредитель журнала Extropy Том Белл, он же Т. О. Морроу[172] (Белл настаивает, что Морроу – отдельная личность, а не просто псевдоним), писал о системах «полицентрического права», которые могли бы естественным образом возникнуть из добровольных взаимодействий между свободными от государственного вмешательства субъектами. Он также развивал идею «Свободной Океании» – потенциального поселения экстропианцев на искусственном плавучем острове в международных водах. (Годы спустя Белл на безвозмездной основе сотрудничал с Институтом систейдинга, получившим стартовое финансирование от Тиля.) От всего этого явно веяло либертарианством – что, собственно, отражало суть движения. Та самая статья в Wired начиналась с описания вечеринки экстропианцев, на которую одна из участниц явилась в образе Государства – в виниловом корсете, портупее, мини-юбке и с плеткой в руке, таща за собой на поводке другого участника, наряженного Налогоплательщиком[173].

В рассылке и экстропианском сообществе состояло всего несколько сотен человек, но среди них были громкие имена: Робин Хэнсон; Марвин Минский, лауреат премии Тьюринга, основавший лабораторию ИИ в MIT в 1970-х; Рэй Курцвейл, компьютерный ученый и футурист, чьи книги сделали «сингулярность» общеизвестным понятием; Ник Бостром, шведский философ, популяризировавший идею «экзистенциальной угрозы» от ИИ; Джулиан Ассанж, будущий основатель WikiLeaks; и три человека, которых подозревали в причастности к созданию биткоина под общим псевдонимом Сатоши Накамото, – Ник Сабо, Вей Дай и Хэл Финни. «Даже при беглом просмотре архива экстропианцев (который вел Вей Дай) становится ясно, что всего за несколько месяцев 17-летний Элиезер Юдковский стал одним из самых ярких голосов в этой удивительной какофонии», – писал журналист Джон Эванс в своей истории движения. В 1996 году 17-летний Юдковский утверждал, что уже к 2020 году может появиться сверхинтеллект, который станет огромным шагом вперед по сравнению с обычными людьми[174].

Двое членов сообщества экстропианцев, интернет-предприниматели Брайан и Сабина Аткинс – познакомившиеся в той же рассылке в 1998 году и вскоре поженившиеся, настолько прониклись этими идеями, что в 2000 году основали для Юдковского исследовательский центр: Институт сингулярности для искусственного интеллекта[175]. В 21 год Юдковский переехал в Атланту, где проповедовал идею благожелательного сверхинтеллекта за скромную зарплату около 20 000 долларов в год. «Я полагал, что все по-настоящему умное автоматически будет добрым», – рассказывал он. Однако уже через восемь месяцев к нему пришло понимание, что это заблуждение – причем серьезное. Создание ИИ, осознал он, может обернуться катастрофой. «Дело в том, что мне платили, а я остро чувствую долг перед теми, у кого беру деньги, – объяснял Юдковский. – В какой-то момент вместо мысли “Если сверхинтеллект не способен автоматически определять правильное и поступать соответственно, значит, объективного добра и зла не существует – так какая разница?” я подумал: “Ну, Брайан Аткинс, вероятно, не захочет, чтобы сверхинтеллект его убил”». Он решил, что Аткинсу не помешал бы «запасной план», но, попытавшись его разработать, с ужасом понял – это невозможно. «Это заставило меня очень глубоко погрузиться в суть проблемы, и тогда я осознал, что заблуждался абсолютно во всем».

Аткинсы отнеслись к этому с пониманием, и институт изменил свою миссию: теперь целью стало создание не просто искусственного интеллекта, а дружественного искусственного интеллекта. «Необходимость решить проблему дружественного ИИ мешала нам сразу же приступить к найму исследователей. Правда, денег на это все равно не было», – признавал Юдковский. Вместо этого он разработал новую концепцию под названием «рационализм». Формально рационализм – это вера в способность человека