Эти странные новые разумы: Как ИИ научился говорить и что это значит - Кристофер Саммерфилд

те едва уловимые предубеждения, которыми пронизан наш язык, в ущерб тем, кто и без того практически лишен влияния в обществе? Что если их используют как инструмент убеждения, чтобы склонять большие группы людей к дискриминационным или опасным взглядам? И если мнения людей расходятся, чьи ценности должны представлять LLM? Что произойдет, если колоссальные объемы созданного ИИ контента — новостей, комментариев, художественной литературы и изображений — начнут доминировать в инфосфере? Как мы тогда узнаем, кто что сказал и что произошло на самом деле? Не стоим ли мы на пороге того, чтобы окончательно вычеркнуть себя из истории?

Часть первая

Как мы к этому пришли?

1. Восемь миллиардов разумов.

Приблизительно 15 ноября 2022 года на Земле родился восьмимиллиардный человек. Никто точно не знает, кто был этим человеком или когда именно он появился на свет, но искушенные в работе со СМИ политики в самых отдаленных уголках мира поспешили закрепить эту честь за одним из своих граждан. В столице Филиппин Маниле новорожденную девочку по имени Винис Мабансаг, появившуюся на свет в 1:29 ночи, встретили целые фаланги журналистов и телерепортеров, горевших желанием разнести весть о символическом восьмимиллиардном жителе планеты по всему миру. Эта десятизначная веха в численности населения планеты — восьмерка с девятью нулями — была достигнута всего через одиннадцать лет после предыдущей.

Восемь миллиардов жителей планеты — это очень много людей. Если бы вы захотели устроить непрерывный марафон быстрых свиданий со всем миром, общаясь с каждым партнером всего по одной минуте, вам потребовалось бы более 15 000 лет, чтобы дойти до конца списка. Восемь миллиардов людей означают восемь миллиардов разумов, и в этих восьми миллиардах разумов хранится невероятно много знаний. Совокупный объем человеческих знаний слишком астрономичен, чтобы его даже вообразить. Невозможно объять умом даже все то, что знает один-единственный человек. Начнем с фактов, усвоенных в школе. Если вы, как и я, учились в Великобритании, вы, вероятно, узнали о наречиях, вклинивающихся отрогах, фотосинтезе и шести женах Генриха VIII. Но это лишь крошечная крупица всего, что вам известно. Большая часть ваших знаний усваивается интуитивно — просто из наблюдений за миром и понимания того, как все устроено. Это эпистемическое достижение мы называем «здравым смыслом». Вы знаете, что собаки не умеют петь, что на Луне нет подсолнухов, а у Наполеона Бонапарта никогда не было айфона. Вы знаете, что клубничное варенье липкое, что большинство людей не вяжут носки в душе, и что если прыгать от Пекина до Берлина на пого-стике, то у вас разболятся колени. Вы знаете кое-что о других людях, их убеждениях и желаниях. Вы знаете, что в классическом детективе Агаты Кристи Пуаро не знает, кто совершил убийство в «Восточном экспрессе», но убийца знает это и не хочет, чтобы Пуаро во всем разобрался. А еще есть личные вещи, о которых знаете только вы: например, что шторы в вашей спальне отчетливо пахнут затхлостью, ваше любимое животное — тасманский дьявол, или что у вас прямо сейчас чешется левая нога.

По мере расцвета нашей цивилизации мы находили все более изобретательные способы систематизировать, документировать эту информацию и обмениваться ею друг с другом. Мы заполняем библиотеки научными теориями об обществе, природе и смысле бытия. Мы читаем газеты, чтобы узнать о войнах и выборах в далеких странах. Мы отправляем детей в школу, чтобы идеи каскадом передавались из поколения в поколение. Мы пишем пронзительные истории, сочиняем волнующие симфонии и создаем мрачные полотна, приоткрывающие завесу над тайными уголками нашего разума. Мы трубим о своих триумфах и возмущениях десяткам, сотням или миллионам людей в бурном потоке социальных сетей. Эти глобальные столпы массового обмена информацией — образование, СМИ и искусство — составляют основу нашей цивилизации. На протяжении веков они превращали человека из волосатого собирателя личинок в неоспоримого архитектора эпохи антропоцена.

Совокупный объем научных трудов человечества — миллиарды слов, ежегодно записываемых в книгах и журналах, — также позволил нам добиться весьма впечатляющих научных и технологических достижений. Физики теперь довольно неплохо представляют себе, как зародилась Вселенная, хотя это произошло примерно за 13,8 миллиарда лет до рождения любого из нас, а антропологи проследили пути человеческой эволюции и глобального расселения за последние два миллиона лет — от Рифтовой долины (колыбели человечества) до Кремниевой долины (колыбели цифровых технологий). Мы отправили космические аппараты для исследований за пределы нашей Солнечной системы, создали ужасающее оружие, способное уничтожить всю нашу цивилизацию быстрее, чем вы успеете почистить зубы, и вывели клонов других биологических видов, среди которых овцы, обезьяны и кошки (включая кошку с забавной кличкой Копикэт). Общими усилиями мы создали глобальную экономику, настолько тесно взаимосвязанную, что самый скромный потребительский товар собирается из деталей со всех уголков планеты и доставляется на грузовых судах, каждое из которых весит больше, чем все бегемоты мира вместе взятые. Совсем недавно, столкнувшись с угрозой глобальной пандемии, биологи разработали вакцину, использующую крошечный фрагмент генетического материала, чтобы научить организм бороться с вирусом SARS-CoV-2, а правительства внедрили государственные программы по массовой вакцинации граждан, спасшие десятки миллионов человеческих жизней. Все это возможно благодаря знаниям, которыми мы делимся друг с другом.

Но познать нужно так много, а времени на это так мало. Представьте, что вас попросили записать все, что вы считаете истинным в этом мире. Даже если вы только начинаете свой жизненный путь, эта задача, скорее всего, поглотит все драгоценные минуты, которые вам остались. А теперь представьте, если сможете, титанический труд по документированию огромной вселенной всех человеческих знаний. Это немыслимо — ни один человек не в силах охватить все, что можно знать. Но что если — и в этом кроется мечта, которая манила философов, ученых и разного рода утопистов с самого зарождения эпохи Просвещения, — что если бы мы могли автоматизировать этот процесс и создать искусственный разум, который впитал бы в себя все знания? Разум, который мог бы в точности сказать нам, что правильно, что истинно, как устроен мир и что готовит нам будущее?

Эта книга — история этой мечты. Она начинается в эпоху Разума, в конце XVII века, когда люди впервые осознали, что природные явления (такие как гравитация и радуга) обусловлены набором познаваемых физических законов, а не перепадами настроения капризного божества. Взглянув на мир по-новому сквозь эту