Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

них нет систем мотивации и планирования, которые позволили бы им решать реальные проблемы, возникающие в открытых, неопределенных и протяженных во времени условиях. Это серьезно ограничивает их способность предпринимать разумные действия в более широком цифровом мире, а значит — на данный момент — они не особо полезны для решения задач, которые сложнее домашнего задания.

Но самая важная причина, почему системы ИИ не похожи на нас (и, вероятно, никогда не будут похожи), заключается в том, что у них нет того интуитивного и эмоционального опыта, который делает нас людьми. В частности, у них отсутствуют два важнейших аспекта человеческого существования: у них нет тела и у них нет друзей. У них нет мотивации чувствовать или желать так, как это делаем мы, поэтому они никогда не испытывают голода, одиночества или скуки. Это отсутствие человеческой мотивации не позволяет системам ИИ проявлять интерес к миру или испытывать разочарование от него — а ведь именно эти базовые стимулы включаются в работу почти сразу же, как только человеческие младенцы с криком появляются на свет. Разум LLM не похож на наш. И все же это в некотором роде разум — странный новый разум, совершенно не похожий ни на что из того, с чем мы сталкивались ранее.

Поэтому актуальный вопрос заключается не в том, похожи ли современные системы ИИ на нас с вами (это не так), а в том, каковы пределы их возможностей. Скептики ИИ яростно доказывают, что LLM навсегда ограничены базовыми архитектурными решениями разработчиков ИИ, в особенности тем, что их обучают предсказывать (или «угадывать») следующий токен в последовательности. Тут я не согласен. Нет принципиальных причин, почему прогнозирование будущих сигналов не может быть основной целью для универсальной системы ИИ. Нет никаких причин, почему внутренние вычисления, носящие стохастический характер (подверженные капризам случайности), должны мешать машинам демонстрировать логичное или рациональное поведение. Оба этих архитектурных решения — прогнозирование как цель обучения и вероятностный характер вычислений — являются хорошо известными особенностями человеческого мозга. Подробно рассмотрев в главе 21, как глубокие сети могут учиться учиться, мы увидели, что нейронные сети с миллионами весов вполне способны находить способы аппроксимации жестких операций символьных систем ИИ. Это позволяет им осуществлять чрезвычайно сложные и структурированные формы рассуждений, которые ранее считались возможными только в рамках классических моделей. Именно поэтому, будучи нейронными сетями, LLM справляются с математическим анализом, C++ и задачами Ферми (например, оценкой общего числа настройщиков пианино в Чикаго) лучше среднестатистического взрослого человека. Не существует никакого недостающего волшебного ингредиента, никакого «анобтаниума», который навсегда возносил бы человеческое познание на мистическую высоту. Утверждение, будто LLM никогда не смогут «мыслить» или «знать», потому что у них нет некой жизненно важной человеческой искры, — это всего лишь версия аргумента Ричарда Оуэна о малом гиппокампе, перенесенная в XXI век: ложное оправдание нашей собственной уникальности.

В пятой части я выделил два основных ограничения в том, как устроены современные системы ИИ, — ограниченный объем памяти и краткосрочный горизонт планирования. Думаю, весьма вероятно, что эти проблемы будут решены в ближайшем будущем — фактически системы с более долгосрочной памятью, способные вспоминать предыдущие разговоры, чтобы «познакомиться» с вами, уже проходят бета-тестирование в момент, когда я пишу эти строки. Это откроет двери для более персонализированных технологий ИИ. Персонализированный ИИ принесет наибольшую пользу, если сможет выполнять за вас реальные задачи, а для этого потребуется преодолеть «инструментальный разрыв». Честно говоря, я не знаю, насколько сложным это окажется. Подозреваю, что мы, сами того не замечая, постепенно придем к более инструментальным агентам — сначала появятся системы, способные выполнять относительно простые задачи, вроде покупки авиабилета на сайте авиакомпании, а затем мы перейдем к полноценным помощникам, которые смогут управлять всей вашей жизнью. Это, конечно, лишь предположения, но я буду крайне удивлен, если к концу этого десятилетия у нас не появится вполне приличных персональных технологий ИИ. Конечно, при условии, что мы не взорвем себя до этого времени.

Сложнее всего предсказать последствия, которые ИИ окажет на наше общество. Социальный эффект ИИ зависит не только от природы самой технологии, но и от того, как ее используют люди и как это влияет на наше отношение друг к другу. Я не удивлюсь, если через несколько лет идея о том, что человек может состоять в «отношениях» с ИИ, станет повсеместной и нормальной, какой бы странной или неправильной она ни казалась нам сегодня. Радости социального общения (не говоря уже о контактах иного рода) попросту слишком притягательны — рынок цифровых друзей и возлюбленных, без сомнения, уже существует, и без серьезного регулирования сверху его быстро приберут к рукам предприимчивые стартапы в сфере ИИ. Появление персонализированного ИИ непредсказуемым образом встряхнет наши отношения с друзьями и знакомыми. Например, практические обсуждения того, чем заняться и куда пойти, могут быть перепоручены персональным ИИ-ассистентам, которые будут договариваться друг с другом — эдакая технологическая пародия на голливудское клише деловых переговоров («мои люди свяжутся с твоими»). Какое будущее нас ждет в связи с этим? И — что еще важнее — о чем тогда вообще разговаривать людям старше сорока?

Кажется неизбежным, что рынок труда претерпит драматические изменения, но чтобы в точности предсказать, что именно произойдет, понадобится хрустальный шар самого последнего поколения. Пока что наши прогнозы относительно последствий внедрения ИИ оказывались весьма далеки от истины. В 2016 году Джеффри Хинтон — первый гуру ИИ, с которым мы встретились на страницах этой книги, — уверенно предсказал, что вскоре мы вообще перестанем обучать рентгенологов, поскольку системы ИИ смогут без проблем взять на себя анализ медицинских снимков на предмет пугающих аномалий. Этого до сих пор не произошло и в ближайшее время не предвидится — по-видимому, потому, что эти высококлассные специалисты делают гораздо больше, чем просто выискивают подозрительные пятна в легких. До недавнего времени люди творческих профессий чувствовали себя в относительной безопасности от экспансии ИИ, поскольку мы все верили, что способность придумать красивую обложку для романа или разработать эффектную графику для фэнтезийной видеоигры автоматизировать гораздо сложнее, чем, скажем, двойную бухгалтерию или ведение судебных дел. Однако теперь очевидно, что художники, дизайнеры и сценаристы — следующие в очереди на автоматизацию, и именно страх остаться не у дел из-за ИИ привел к забастовке Гильдии сценаристов Америки, которая на несколько месяцев парализовала киноиндустрию Голливуда в 2023 году. DALL·E 3, инструмент генерации изображений на базе ИИ, который сейчас встроен в GPT-4, способен создавать поразительно профессиональные изображения и дизайны — но только, конечно, потому, что он