Искусственный интеллект. Краткая история будущего - Тоби Уолш

ВЫПОЛНЯТЬ ДВИЖЕНИЕ, КОГДА ДОРОГА ПОДСВЕЧЕНА ЗЕЛЕНЫМ ЦВЕТОМ, В ПРОТИВНОМ СЛУЧАЕ РЕЗКО ТОРМОЗИТЬ.

Думаю, что с решением этой проблемы мы успешно справимся, в результате чего окажемся на пятом уровне полной автоматизации. В конце концов, беспилотные автомобили обладают массой преимуществ по сравнению с теми, что управляются человеком. Они активируют сенсоры для картографирования в неблагоприятных погодных условиях и темноте, реагируют с электронной, а не биологической скоростью, никогда не устают, не отвлекаются и не находятся в состоянии алкогольного опьянения. Раз уж подростки могут научиться, я почти не сомневаюсь, что и компьютеры тоже будут водить.

Эксперты по-разному оценивают время, которое нам понадобится, чтобы достичь пятого уровня. Оптимисты предполагают, что потребуется от пяти до десяти лет, другие же считают, что это займет десятки лет. Отчасти срок достижения цели будет зависеть от нашей терпимости к ущербу, который причиняет искусственный интеллект в сравнении с тем, что причиняет человек. Вне зависимости от того, сколько времени это займет, надеюсь, что, в конце концов, оглянувшись назад, мы будем поражены тем, что позволяли людям садиться за руль и устраивать кровавые происшествия на дорогах. И все это благодаря преподобному Томасу Байесу.

Часть 3

Будущее

На пороге искусственного интеллекта

«То, что мы имеем сейчас, не значит, что так будет всегда. Говоря о моделях искусственного интеллекта, то, что имеем сейчас, улучшится с такой космической скоростью, с которой не развивалась ни одна предыдущая технология. Единственное, с чем мы все согласны, так это с тем, что мы живем в чертовски странное время».

Стивен Фрай[86] на международном фестивале CogX Festival в сентябре 2023 года

Таким образом, мы добрались до сегодняшнего дня. Сейчас невозможно открыть газету, не прочитав истории о вмешательстве искусственного интеллекта в нашу жизнь. В большинстве случаев заголовки тревожны, негативны и вызывают всеобщую истерию.

Безусловно, история искусственного интеллекта все еще в процессе написания. Существующие сейчас системы искусственного интеллекта, конечно, впечатляют, а порой настораживают, но все же мы пока очень далеки от нашей конечной цели: достичь уровня человеческого интеллекта во всем его многообразии. Не сомневаюсь, что спустя 10, 50 или даже 100 лет мы достигнем ее. И, достигнув уровня человеческого интеллекта, мы, вероятно, значительно превзойдем его. Было бы невероятно самонадеянно полагать, что мы не сможем этого сделать. После всего проделанного, что такого особенного в человеческих способностях? В узкоспециализированных областях, например шахматах, чтении рентгеновских снимков или прогнозировании неисправностей, искусственный интеллект уже превзошел среднестатистического человека.

Не первый раз технологии кажутся нам разрушительными. Многие из них – от парового двигателя до электричества – уже кардинально изменили наш образ жизни. Как и все предыдущие инновации, искусственный интеллект преобразует все области нашей жизни: как мы рождаемся, живем, работаем, играем и умираем. Но в одном революция искусственного интеллекта все же будет отличаться, а именно скоростью, с которой она трансформирует все вокруг.

Промышленная революция заняла более 50 лет, а электрификация несколько десятилетий. Даже интернету потребовалось около десяти лет, чтобы успешно войти в жизнь, поскольку нужно было обеспечить людям доступ к сети. Но революция искусственного интеллекта – совсем другая история. Мы уже подготовили техническую базу, а вам требуется только указать URL-адрес или описать необходимые параметры для работы какого-либо сервиса искусственного интеллекта и можно приступать к работе. В сектор искусственного интеллекта инвестируются колоссальные суммы. В 2024 году ежедневно в разработку вкладывается около миллиарда долларов США. Ранее не наблюдалось сфер с такими внушительными инвестициями. Тем не менее ИИ начинают окупаться. Спустя год после запуска ChatGPT доходы OpenAI выросли с нуля до миллиарда долларов в год, а стоимость компании оценивается в 100 миллиардов долларов[87]. В истории капитализма никогда не наблюдалось столь впечатляющего роста. Область искусственного интеллекта – самая крупная золотая лихорадка. С точки зрения прибыли и рыночной стоимости OpenAI – самая быстро растущая компания из когда-либо существовавших.

Часто говорят, что мы живем в эпоху экспоненциального роста. С 1950-х годов мощность компьютеров удваивается примерно каждые два года. Это то, что мы называем законом Мура. Количество данных в сети, имеющих первостепенную значимость для таких технологий, как машинное обучение, также удваивается каждые пару лет. А многие основополагающие алгоритмы на основе трансформеров кратно увеличили производительность за последние несколько лет.

Однако существует другой экспоненциальный рост, о котором мало говорят. Рост науки в целом. Ни в одной области это не ощущается так, как в секторе искусственного интеллекта. По данным ежегодного отчета Стэнфордского университета AI Index от 2024 года, количество опубликованных работ, посвященных исследованиям искусственного интеллекта, за последние пять лет удвоилось [1], равно как и число поданных и выданных патентов. Следовательно, ожидается, что существенная масса ограничений в существующих системах будет устранена уже в ближайшем будущем. И если это действительно так, то возникает вопрос: куда это все приведет?

СИНГУЛЯРНОСТЬ

Одной из невероятно притягательных конечных целей искусственного интеллекта является технологическая сингулярность. Эта идея восходит глубоко в 1950-е к выдающемуся Джону фон Нейману, одному из отцов информатики. Он предупредил, что «постоянно ускоряющийся технический прогресс и изменения в образе жизни человека создают видимость приближения к какой-то некой сингулярности, за пределами которой привычный образ жизни уже невозможен» [2]. Недавно сингулярность начала популяризироваться благодаря писателю-фантасту Вернору Винджу[88], футурологу Рэймонду Курцвейлу[89], философу Нику Бострому[90] и другим.

Сингулярность искусственного интеллекта – та точка, где будут развиты настолько умные системы, что смогут самостоятельно последовательно обновляться, улучшая свои способности. Такие усовершенствованные, более смышленые технологии смогут совершенствоваться снова и снова, создавая эффект снежного кома. В отличие от биологической эволюции, на которую потребовались тысячи лет, это рекурсивное улучшение может произойти в одночасье, создав искусственный интеллект, внезапно значительно превосходящий человеческий.

Но что же препятствует дальнейшему развитию человечества? Проблема заключается в том, что мы больше не будем самыми разумными существами на планете, а люди стали доминирующим видом как раз благодаря развитым умственным способностям. Мы не были самыми быстрыми или сильными животными, но были самыми сообразительными. Мы использовали свои способности для создания языка, чтобы общаться и взаимодействовать друг с другом, мы придумали инструменты, чтобы усилить возможности мышц, и это позволило нам управлять планетой. Участью других, менее развитых интеллектуально видов, стала зависимость от человечества.

Аналогичным образом, если искусственный интеллект превосходит наш, то наша участь зависит от благосклонности машин. Не то чтобы у технологий были плохие намерения. Если мы строим новый жилой комплекс и на нашем пути попался муравейник, мы просто сносим его. Муравьи не настолько важны для нас, чтобы заботиться о том, что может случиться с ними. Точно так же, как муравьи