Создатель ChatGPT: История Сэма Альтмана - Кич Хэйги

К тому же Open Philanthropy и Таллинн напрямую финансируют вашингтонские лоббистские группы, такие как Center for AI Policy (CAIP). На популярном EA-форуме GreaterWrong в 2023 году организацию описали как новую вашингтонскую структуру, разрабатывающую и продвигающую политику по снижению катастрофических рисков ИИ с упором на «наращивание потенциала в правительстве США». К концу 2023 года Джейсон Грин-Лоу, ставший исполнительным директором CAIP, написал в связанном блоге LessWrong, что его группа уже провела более 50 встреч с сотрудниками конгресса и находится «в процессе разработки типового законопроекта». Соучредитель CAIP Томас Ларсен ранее исследовал безопасность ИИ в Институте исследований машинного интеллекта Юдковского.

Грин-Лоу в целом поддержал недавний указ Белого дома об ИИ, но 10 миллионов долларов, выделенные Институту безопасности ИИ при NIST, назвал смехотворными. «Нас обгоняет по расходам даже Сингапур», – возмущался он, ссылаясь на недавнюю статью в The Washington Post, где описывались, в каком плачевном состоянии находится здание института: черная плесень, из-за которой сотрудники не могут работать в кабинетах, частые отключения электричества, заставляющие исследователей «спать в лабораториях, чтобы уберечь свою работу». «Сотрудники носят жесткие диски в другие здания – ненадежный интернет не позволяет передавать большие файлы… протекающая крыша вынуждает раскладывать пластиковую пленку», – сообщала газета. Здания кишат живностью – в том числе змеями[372].

Грин-Лоу – выпускник Гарварда, «адвокат-альтруист» (по его собственному определению), заинтересовавшийся ИИ после создания простых моделей машинного обучения для разрешения жилищных споров, – считает, что его организация борется за благое дело: ответственную разработку искусственного интеллекта. «На кону – весь мир, – говорит он. – Если мы создадим нечто более быстрое, умное и дешевое, чем мы сами, эта штука определит наше будущее. Мы еще не дошли до этой точки, но, похоже, неумолимо к ней движемся».

Апокалиптический трепет, который Альтман так любил вызывать у своей аудитории, внезапно перестал казаться забавным. Несколько месяцев после «сбоя» он прожил как во сне, все еще ошарашенный и расстроенный таким внезапным нападением. Свою странность он всегда считал суперсилой – еще со времен колледжа – и теперь оплакивал утрату этой свободы теми, кто пришел после него: финансовый кризис превратил их в послушных карьеристов, а раздувающийся технологический пузырь не оставлял иного разумного выбора, кроме как влиться в ИТ. «В университете я научился независимости, – рассказывал он в нашем первом интервью в начале 2023 года. – Странные идеи – это нормально. Необязательно быть ультраконформистом. Стэнфорд тогда был очень странным местом, и это было круто. Мне это помогло. А сейчас, мне кажется, все боятся сойти с проторенной дорожки, боятся сделать что-то, за что их “отменят”, боятся выглядеть “странно”». Сын Джерри Альтмана всегда любил креативные финансовые структуры, которые умудрялись быть одновременно и частными, и публичными.

И все же, когда в марте 2024 года расследование «сбоя» завершилось и Альтмана полностью оправдали, позволив ему вернуться в совет директоров, он понимал: так больше не может продолжаться. Это касалось и странной структуры компании, и отсутствия у него доли в ней (что выглядело вызывающе). Инвесторы не станут финансировать компанию, способную самоуничтожиться с такой легкостью, как это продемонстрировала OpenAI, а им требовалось привлекать гораздо больше денег. Она построила гигантский корпоративный бизнес в сфере ИИ – по иронии судьбы даже крупнее, чем у Microsoft, – и в течение года после «сбоя» удвоила штат. Но расходы по-прежнему превышали доходы, причем на миллиарды. В обозримом будущем компании был жизненно необходим талант Альтмана по привлечению средств.

Альтман взялся за превращение OpenAI во что-то куда менее странное.

И начал он с зачистки рядов от эффективных альтруистов.

В погоне за нормальностью OpenAI привлекла в совет директоров опытных управленцев: бывшего президента Sony Entertainment Николь Селигман, годами заседавшую в совете Paramount Global, и бывшего генерального директора Фонда Билла и Мелинды Гейтс доктора Сью Десмонд-Хеллманн, у которой за плечами была работа в советах директоров Facebook и Pfizer. Компания также внедрила новую политику по конфликту интересов – чтобы предотвратить недоверие к сторонним проектам Альтмана (что поспособствовало его увольнению).

«Поскольку у людей возникали вопросы, мы получили юридическую консультацию и внедрили стандартный регламент по принципу “сомневаешься – проверь”, – объяснил Ларри Саммерс. – И Сэм скрупулезно все проверяет».

Изучив не меньше 30 000 документов и опросив десятки сотрудников, внешняя юридическая фирма WilmerHale заключила: прежний совет директоров действовал в рамках своих полномочий, увольняя Альтмана, но ничто из рассмотренного не требовало его увольнения.

«После ознакомления с данными WilmerHale наша оценка ситуации изменилась, поскольку в материалах не содержалось ничего такого, что хоть как-то ставило бы под сомнение целесообразность его пребывания на посту генерального директора», – сказал Саммерс.

Тем не менее после всей этой истории Альтман занялся самоанализом, пытаясь понять, как же он утратил доверие совета. Он осознал, что некоммерческая структура слишком нестабильна и, скорее всего, ее придется заменить чем-то вроде общественной корпорации – коммерческой компании, которая по уставу наряду с финансовыми показателями должна преследовать и социальные цели. Но он также понимал: такой шаг еще больше подорвет доверие некоторых сотрудников.

«Мы постоянно учимся и адаптируемся, действуем гибко, и я стараюсь оставлять себе пространство для маневра – и многих это, конечно, раздражает. Но иногда этого пространства оказывается недостаточно, и приходится делать что-то за рамками изначально рассматриваемых вариантов. Думаю, такие вещи, как старт в качестве некоммерческой организации, затем добавление модели с ограниченной прибылью, а потом заявление: “Это тоже не годится, нужна общественная корпорация” – хотя я искренне верил, что наша структура сработает, – выводят людей из себя, и это вполне объяснимо».

Но никого это не вывело из себя сильнее, чем Илона Маска. В том же месяце, когда расследование оправдало Альтмана, Маск подал на него и OpenAI в суд, обвинив компанию в предательстве некоммерческой миссии. «OpenAI превратилась в де-факто дочернюю компанию с закрытым исходным кодом крупнейшей технологической корпорации мира – Microsoft, – говорилось в его иске. – Под руководством нового совета директоров она не просто разрабатывает, а совершенствует сильный искусственный интеллект для максимизации прибыли Microsoft, а не на благо человечества»[373]. OpenAI представила претензии Маска как проявление зависти, упирая на то, что его собственная компания вообще-то тоже пытается коммерциализировать ИИ. Но вопрос был справедливым: куда делись примерно 50 миллионов долларов, изначально пожертвованные Маском некоммерческой OpenAI? Растворились в воздухе? Неужели он не получит ничего за то, что с самого начала финансировал этого монстра?

С тех пор как случился «сбой», Суцкевер залег на дно – настолько глубоко, что вопрос «Где Илья?» превратился в интернет-мем. Поговаривали, будто они с Мурати уехали в Антарктиду. В марте 2024 года Лекс Фридман спросил Альтмана, не держат ли