Создатель ChatGPT: История Сэма Альтмана - Кич Хэйги

мебель и одежду, микрофоны для подкастов и музыки – лишь бы хватило на еду и аренду жилья», – напишет она позже. К декабрю 2019-го ее отчаяние достигло предела – она попросила помощи у семьи. Отказ. Тогда Энни зашла на сайт знакомств SeekingArrangements (ныне Seeking.com), чрезвычайно любимый теми, кто ищет спонсоров и предлагает спонсорство, показала грудь и получила денежный перевод.

В начале 2020 года Сэм приехал в Лос-Анджелес на серию совместных с Энни очных сеансов семейной терапии. «Я сидела в кабинете терапевта – в ортопедической обуви, вся в испарине от гормонального сбоя. Старший брат созвонился с матерью. Женщина, которая меня родила, заявила терапевту: “Для психического здоровья Энни будет лучше, если она наконец-то начнет себя обеспечивать”. Мой брат-мультимиллионер кивнул», – напишет Энни[306].

Терапевт предложила семье Альтман полгода поддерживать Энни финансово. Сэм и Конни согласились. Но через пару месяцев Энни поняла – договоренности не соблюдаются: деньги приходят с опозданием, а за каждый перевод приходится унижаться. В марте, когда грянул коронавирус, Конни написала дочери, что проблема в ней самой – она не выполняет условия соглашения. А условия включали регулярные отчеты ей и Сэму, «обязательное психиатрическое лечение» и активные поиски работы. Конни возмущали статьи расходов Энни – развлечения и поездки на такси: «Как-то не похоже на то, что могут себе позволить безработные». Насчет здоровья – «Мы все вынуждены работать, несмотря на разные болячки». И советы по экономии: «Из риса, фасоли, яиц, сыра и пасты можно готовить вкусно – и уложиться в сотню долларов в неделю». Предложила переехать из дорогого Лос-Анджелеса. «Свободные деньги тебе явно во вред. Поверь, у меня болит душа не меньше, чем у тебя, – я просто хочу, чтобы твоя жизнь наладилась».

Энни решила вернуться на Гавайи – работать на ферме по программе work trade с минимальной нагрузкой. Брат Макс озвучил мнение всех братьев и Конни: «Слушай, мы тут посовещались – в июне расходы оплачиваешь сама». Последней каплей стала просьба Сэма прислать почтовый адрес – он хотел отправить ей бриллиант из праха отца. Об этом Энни позже расскажет New York Magazine[307]. Джерри никогда не просил превращать его в бриллиант, а почтовые ящики на ферме даже не запирались. «К тому же, – пишет она, – самым разумным в той ситуации было бы заложить бриллиант и купить еды. Брат это прекрасно понимал». Она порвала с матерью и братьями[308].

Пока разворачивалась эта драма, Сэм боролся с коронавирусом – «разминкой» перед глобальной пандемией, к которой он и готовился, – единственным известным ему способом: привлекая деньги. «Ученые способны нас вытащить, – писал он в блоге. – Им нужны деньги и связи»[309]. В апреле он выдал ответ на кризис – в стиле Кремниевой долины. Этим ответом стал сайт 1billionmasks.com для оптовых закупок медицинских масок из Китая. В июне Сэм запустил проект по организации клинических испытаний противокоронавирусных препаратов. Работа с биотехом в YC познакомила его с руководителями множества компаний – например, с Джен Нванкво, основательницей 1910 Genetics: ее сотрудники использовали ИИ для разработки лекарств. Альтман вкладывал деньги в эту компанию. Теперь Нванкво применяла ИИ-инструменты для поиска лечения от коронавируса. Попутно Альтман пытался уговорить 1910 Genetics протестировать API GPT–3 (еще не публичный). «Он написал: “Слушайте, мы предлагаем отдельным компаниям закрытый предпросмотр API GPT–3. Хотим понять, как превратить исследовательский проект в коммерческий продукт. Биотех – уникальная сфера, давайте изучим возможности”», – вспоминает Нванкво. В 1910 Genetics попробовали использовать API GPT–3, но «сотрудничество не сложилось по ряду причин».

OpenAI выпустила первый коммерческий продукт – незатейливо названный OpenAI API – 11 июня 2020 года. Блог-пост звучал почти извиняющимся тоном: почему не делаем открытый код (слишком сложно и опасно) и зачем вообще создаем продукт (причина номер один: нужны деньги)[310]. Модель GPT–3, доступ к которой предоставлял API, стала прорывом в этой сфере, но требовала мастерства в написании промтов. Пользователям приходилось показывать несколько примеров желаемых ответов – все равно что бежать рядом с ребенком, который только учится кататься на велосипеде. «Дайте модели несколько вопросов с ответами – и вот она уже в режиме Q&A», – объяснял Брокман журналу Wired[311]. Запуск вышел скромным – на закрытую бета-версию подписались считаные компании, включая Reddit. Но OpenAI нашла новое обоснование для создания продуктов: дело не только в деньгах. Люди должны использовать инструменты, чтобы разработчики поняли, как сделать их безопасными. «Начиналось все с фандрайзинга, но быстро стало ясно – это как недостающая конечность, – говорил Брокман. – Столп нашей миссии, который мы упускали». Звучало убедительно. Но на всякий случай OpenAI ограничилась закрытым бета-тестированием вместо публичного релиза – чтобы исключить злонамеренное использование.

Амодеи и его сторонники в компании – многие были соавторами статьи о законах масштабирования – остались недовольны. Обстановка накалялась. «Сэм и Грег выросли в YC и Stripe с их типичным подходом а-ля Кремниевая долина: “А давайте просто выпустим и масштабируем”», – вспоминает один из тогдашних сотрудников. А вот у Амодеи – с его академической подготовкой – росла одержимость вопросами безопасности. Его команда настаивала: модели нужно выпускать медленнее, с более серьезными ограничениями. Дарио признавался друзьям, что чувствует психологическое давление со стороны Альтмана. А Альтман жаловался коллегам, что эта напряженность заставляет его ненавидеть работу. Команда Амодеи понимала: если уходить, то сейчас. «Мы видим, к чему все идет, – говорил один из сторонников Амодеи. – Если создавать свое, то пора действовать. Из-за законов масштабирования объем необходимых вложений скоро станет запредельным». В 2021 году Амодеи с десятком коллег из OpenAI основал конкурирующую компанию Anthropic. Для Альтмана их уход стал незаживающей раной.

Тем временем исследователи начали осознавать колоссальную мощь больших языковых моделей – их потенциал и связанные с ними опасности. В то время как команда Anthropic покинула OpenAI, в Google разгорался похожий конфликт из-за публикации скандальной статьи Эмили Бендер и Тимнит Гебру «Об опасностях стохастических попугаев: не слишком ли велики языковые модели?» (On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?)[312] Зловещий образ в заголовке – исполинский пернатый – соединяет знаменитый талант попугаев к подражанию со странным словом «стохастический» (от греческого

 – «вероятностный», дословно – «умеющий хорошо целиться»). «Стохастический попугай» – метафора, описывающая склонность больших языковых моделей генерировать правдоподобные догадки и имитации вместо осмысленного анализа и подлинной коммуникации.

Статья вскрыла целый букет проблем LLM: модели – такие, как GPT–3, новенький гигант от OpenAI, – росли с чудовищной скоростью и пожирали все больше данных. Среди угроз: гигантский углеродный след из-за потребляемого объема вычислительных мощностей, множество способов, которыми LLM «кодируют предрассудки, потенциально вредные для маргинализированных групп», и «консервация ценностей» (как это назвали Бендер с Гебру) – когда модели, переваривая и воспроизводя существующий контент, «увековечивают устаревшие, менее инклюзивные представления». Говоря об