Создатель ChatGPT: История Сэма Альтмана - Кич Хэйги

на мгновение задумался. «Что ж, – ответил он, нервно усмехнувшись, – очевидно, сначала я попытаюсь все исправить. Но если не смогу – уволю вас». «Именно так, – одобрительно кивнул Альтман. – Я хотел, чтобы все здесь это знали».

В Y Combinator известие о назначении Альтмана главой коммерческого подразделения OpenAI вызвало недовольство – прежде всего у Джессики Ливингстон. Она потребовала, чтобы он нашел себе замену в YC, раз собирается руководить другой коммерческой компанией. Уход Альтмана из YC нельзя было назвать добровольным, но спорить он не стал. «Именно Джессика предложила ему найти преемника в YC после того, как OpenAI создала свое коммерческое подразделение и он должен был его возглавить, – писал Грэм в электронном письме. – Так что если кто и “уволил” Сэма, то это была Джессика, а не я. Впрочем, слово “уволил” здесь едва ли уместно, ведь он тут же согласился».

Тем не менее Альтман хотел остаться в деле и предложил занять более номинальную должность председателя совета директоров YC. Джефф Ралстон, давний партнер YC, которого Грэм, Ливингстон и Альтман в итоге согласились назначить преемником, считал, что лучше расстаться сразу и окончательно. В мае Грэм прилетел в офис YC в Маунтин-Вью, собрал партнеров и объявил, что Альтман уходит, а его место займет Ралстон.

Ливингстон была потрясена и обижена, узнав, насколько глубоко Альтман погрузился в дела OpenAI, формально оставаясь главой YC. После этого они не разговаривали несколько лет. Грэм тоже был разгневан, но быстрее пошел на примирение. Тем не менее он сожалел, что с самого начала не дал понять: от Альтмана в YC ждут полной отдачи. Амбиции Альтмана оказались палкой о двух концах.

Отчасти их гнев был вызван хаосом, последовавшим за уходом Альтмана. Он увеличил масштабы YC, но так и не позаботился о создании профессиональной системы управления. Неформальный наблюдательный совет, который Альтман создал и теоретически наделил полномочиями по найму и увольнению генерального директора YC (при этом выразив желание, чтобы он собирался как можно реже), в итоге не провел ни одной встречи. У YC не было настоящего совета директоров и официальной процедуры поиска замены Альтману. Чтобы сотрудники приняли Ралстона как нового главу компании, потребовалось личное вмешательство Грэма – точно так же, как при вступлении в должность преемника Ралстона Гарри Тана несколько лет спустя. Уже во время руководства Ралстона в YC наконец появится официальный совет директоров из пяти человек, куда войдут Грэм и Ливингстон, а также основатели успешных стартапов из YC, такие как Брайан Чески.

Однако в тот момент даже присутствие Грэма не могло полностью погасить неразбериху, вызванную уходом Альтмана. Тот согласился отказаться от должности президента, но хотел остаться в Y Combinator председателем совета директоров – отчасти чтобы успокоить ограниченных партнеров, которых сам привлек в качестве инвесторов. YC даже объявил о его новой должности в своем блоге, но затем отыграл назад и удалил упоминание о председательстве из публикации[297]. «Сэм пытался найти способ остаться в команде в качестве наблюдателя, – рассказывал один из сотрудников YC того времени. – Но внутри компании ему ясно дали понять: “Нет, ты уходишь”».

Альтман активно использовал бренд YC для строительства OpenAI: задействовал капитал YC для создания фонда вознаграждения для исследователей OpenAI, предлагал Маску в первых письмах использовать здания YC и даже брал данные компаний из YC для обучения моделей OpenAI. Когда он привлекал средства для YC Research от таких инвесторов, как Вишал Сикка из InfoSys, протеже Алана Кэя, конкретное предназначение этих денег всегда оставалось немного туманным. Изначально Сикка загорелся идеей Альтмана дать Кэю новую исследовательскую лабораторию в HARC, но его пожертвование в итоге осело в казне OpenAI. Сикка не возражал, поскольку рассматривал эти деньги как поддержку более широкого видения Альтмана. Но поскольку Маск с самого начала настаивал, что OpenAI надо создавать как отдельную некоммерческую организацию, средства которой не смешивались бы с другими проектами YC Research, такая вольность Альтмана в обращении с финансами выглядела в глазах партнеров как конфликт интересов – или как минимум сомнительное использование репутации YC в личных целях.

Защитники Альтмана говорят, что он просто быстро двигался вперед, иногда круша то, что попадалось ему на пути. «Сэм – хороший и порядочный человек с добрыми намерениями, – говорил один из давних партнеров YC. – Он старается поступать правильно. Но он избегает конфликтов, не силен в общении и иногда действует так стремительно, что подрывает доверие».

Но это было уже неважно. Через год после той встречи на лестнице с Наделлой Microsoft и OpenAI объявили, что Microsoft инвестирует в OpenAI миллиард долларов – в основном в виде кредитов на использование своей же облачной платформы Azure, которые, по сути, вернутся обратно в Microsoft, – чтобы помочь в разработке «полезного общего ИИ». Взамен Azure становилась эксклюзивным облачным провайдером для OpenAI[298].

Несмотря на все фальстарты, в OpenAI понимали: им нужны доллары, а не алгоритмы. И Сэм Альтман был для этой задачи идеальной кандидатурой.

Часть IV

2019–2024 годы

Глава 14

Продукты

Споры о безопасности начались с первого дня. Спустя год после создания первой модели GPT Алек Рэдфорд и его команда обучили трансформер с полутора миллиардами параметров на собственноручно собранном датасете WebText. Исследователи OpenAI получили WebText, выкачав 8 миллионов ссылок, набравших минимум три голоса на Reddit, – гениальный способ бесплатно получить качественный контент, отобранный людьми. Получившаяся модель GPT–2 умела писать убедительные эссе, фанфики и даже новостные статьи – достаточно было дать ей правильный промт. Модель даже переводила тексты, хотя ее этому не учили. Это намекало, что технология «угадай следующее слово» начинает проявлять признаки AGI.

В Pioneer Building, где располагался офис OpenAI, направление развития GPT–2 вызвало некоторую панику. Особенно нервничали Дарио Амодеи и Джек Кларк, занимавший пост директора по политике OpenAI. Кларк, говоривший басом и державшийся как настоящий интеллектуал, был поражен: GPT–2 понимала язык несоизмеримо лучше всех предшественников. Его тревожила возможность использовать модель для создания фейков. Годом ранее он и Амодеи выступили соавторами статьи «Злонамеренное использование искусственного интеллекта» вместе с Хелен Тонер, молодым экспертом по Китаю из Open Philanthropy Project. Ведущим автором был Майлз Брандейдж – исследователь из оксфордского Института будущего человечества Ника Бострома (вскоре Майлз перешел на работу в OpenAI). Статья предупреждала: политикам пора задуматься о растущей способности ИИ распространять дезинформацию и причинять иной вред. «Дарио загорелся идеей создать важный прецедент: показать, что исследовательские лаборатории вовсе не обязаны автоматически выкладывать все разработки в открытый доступ», – вспоминает один из тогдашних сотрудников OpenAI. После долгих обсуждений компания решила не выкладывать