Революция разума: на подступах к Сингулярности. Как технологии изменят общество и сознание - Рэймонд Курцвейл

использовались округленные величины, итоговые суммы не следует считать абсолютно точными, а скорее определенными с точностью до нескольких процентов. Для компьютеров, стоимость которых известна в валюте, отличной от доллара США, курсы конвертации могли привести к дополнительной погрешности.

Если компьютер продавался по разным ценам в одном и том же году, то в расчет бралась его наименьшая рыночная стоимость. Таким образом, данные отражают наилучшее соотношение цена/производительность, которое было доступно в конкретный год. Следует отметить, что данные за период времени до середины 1990-х и после не вполне сопоставимы. Раньше компьютеры продавались как готовые блоки, которые было сложно модернизировать. Поэтому цена такой системы включала в себя стоимость не только процессора, но и других компонентов, таких как жесткий диск и монитор. Сейчас же процессоры продаются отдельно, так что пользователи могут приобрести несколько штук и использовать совместно в одной системе для решения сложных вычислительных задач. Благодаря этому мы можем более точно оценить соотношение цена/производительность процессоров, не учитывая стоимость компонентов, которые не связаны с вычислениями. Однако это приводит к несколько завышенной оценке прогресса, который был достигнут с 1990-х годов.

Стоимость чипов Google Cloud TPU v4-4096 была принята равной 4000 часам аренды. Это очень приблизительная оценка, но она позволяет сравнить полученные результаты с другими позициями в выборке, которая (по крайней мере, для данных с 1950-х годов и позже) преимущественно состоит из оборудования, доступного для покупки. Для небольших проектов, связанных с машинным обучением, соотношение цена/производительность будет намного выше, чем при таком подходе к расчету, поскольку доступ к огромным вычислительным мощностям им очень полезен, но покупка дорогостоящего оборудования может оказаться совершенно не оправданной. Это основное преимущество облачных вычислений, которое пока не получило должного признания.

Стоимость, указанная в этом разделе, отражает производственные затраты, розничную цену или цену аренды, в зависимости от доступной информации. Из расчета исключены другие расходы, такие как стоимость доставки, установки и обслуживания, затраты на электроэнергию, налоги и оплату труда оператора. Такие затраты на одну и ту же машину сильно различаются для разных пользователей и не могут быть усреднены. Простые соображения подсказывают, что учет вышеуказанных факторов не сильно повлияет на общий вывод, а если и повлияет, то в сторону увеличения наблюдаемой скорости прогресса (см. график «Цена/производительность вычислительных систем с 1939 по 2023 год» на с. 212). Более старые машины требовали повышенных накладных расходов, так что исключение этого аспекта из рассмотрения делает анализ более консервативным.

Методика расчета производительности

«Количество вычислений в секунду» – это условная величина, которая объединяет несколько наборов данных о производительности компьютеров за последние 84 года. На протяжении этого времени вычислительные мощности компьютеров не только улучшались количественно, но и претерпевали качественные изменения. Из-за этого невозможно найти одну универсальную метрику, с помощью которой можно было бы сопоставить производительность всех этих устройств. Даже если бы у компьютера Z2 1939 года было неограниченное количество времени, он все равно не смог бы выполнить те же операции, что и тензорный процессор 2023 года, который справляется с ними за доли секунды – это принципиально разные устройства.

Поэтому любая попытка обобщить все статистические данные о производительности в один универсальный показатель может ввести в заблуждение. Например, хотя Андерсу Сандбергу и Нику Бострому удалось сопоставить показатели «миллион инструкций в секунду» (MIPS) и «миллион операций с плавающей точкой» (MFLOPS), при масштабировании линейные соотношения этих параметров нарушаются, что делает этот метод непригодным для анализа набора машин с таким широким разбросом производительности. Прямое преобразование величины FLOPS современных компьютеров в IPS приведет к завышению оценки быстродействия новых машин; попытка выразить производительность старых компьютеров во FLOPS несправедливо выставит их слишком медленными.

Точно так же теоретико-информационные подходы, предпочтение которым отдают Ханс Моравец (1988) и Уильям Нордхаус (2001), хотя и не лишены достоинств, все же не отражают качественной эволюции вычислительных систем и приложений. Например, метрика MSOPS (миллион стандартных операций в секунду), предложенная Нордхаусом, требует учитывать операции сложения и умножения в определенной пропорции. Она не подходит для сравнения производительности компьютеров, произведенных в 1960-х для расчета траектории баллистических ракет, и современных графических и тензорных процессоров, заточенных под вычисления с малой точностью в задачах машинного обучения.

Поэтому мы решили использовать метод оценки быстродействия компьютера, который был актуален на момент его создания. Для компьютеров, выпущенных с 1939 года, включая Z2 Конрада Цузе, мы использовали более щадящую метрику IPS (Instructions Per Second), которая измеряет количество операций сложения в секунду. С 2001 года, когда вышел Pentium 4, производительность компьютеров стала измеряться количеством операций с плавающей точкой. Это отражает изменившуюся область практического применения компьютеров. Эффективность работы с числами с плавающей точкой стала более важной, чем скорость выполнения целочисленных операций или другие параметры. Например, графические процессоры и специализированные чипы для задач искусственного интеллекта и глубокого обучения отлично справляются со своей работой и демонстрируют высокие показатели FLOPS. Однако если попытаться измерить их производительность в обычных задачах, для которых предназначены центральные процессоры, и сравнить с техникой прошлых поколений, результаты могут ввести в заблуждение.

Приведенные данные представляют собой максимальные показатели быстродействия. При оценке самых ранних компьютеров мы ориентировались на скорость выполнения операций, аналогичных операции сложения. Указанные характеристики превышают те, которые эти компьютеры демонстрировали на практике в повседневных задачах. Однако такие параметры лучше подходят для сравнения, поскольку они не зависят от факторов, не связанных с чистотой работы процессора, и более стабильны от одного компьютера к другому, в отличие от средних показателей быстродействия.

Дополнительные сведения

Anders Sandberg and Nick Bostrom, Whole Brain Emulation: A Roadmap, technical report 2008-3, Future of Humanity Institute, Oxford University (2008), https://www.fhi.ox.ac.uk/brain-emulation-roadmap-report.pdf.

William D. Nordhaus, “The Progress of Computing”, discussion paper 1324, Cowles Foundation (September 2001), https://ssrn.com/abstract=285168.

Hans Moravec, “MIPS Equivalents”, Field Robotics Center, Carnegie Mellon Robotics Institute, accessed December 2, 2021, https://web.archive.org/web/20210609052024/https://frc.ri.cmu.edu/~hpm/book97/ch3/processor.list.

Hans Moravec, Mind Children: The Future of Robot and Human Intelligence (Cambridge, MA: Harvard University Press, 1988).

Перечень компьютеров, результаты и источники

Источники данных по индексу потребительских цен

“Consumer Price Index, 1913–”, Federal Reserve Bank of Minneapolis, accessed April 20, 2023, https://www.minneapolisfed.org/about-us/monetary-policy/inflation-calculator/consumer-price-index-1913-; US Bureau of Labor Statistics, “Consumer Price Index for All Urban Consumers: All Items in U.S. City Average (CPIAUCSL),” retrieved from FRED, Federal Reserve Bank of St. Louis, updated April 12, 2023, https://fred.stlouisfed.org/series/CPIAUCSL.

1939 Z2

Проиндексированная стоимость: 50 489 долларов 31 цент

Операций в секунду: 0,33

Операций в секунду/доллар: 0,0000065

Источники данных о цене: Jane Smiley, The Man Who Invented the Computer: The Biography of John Atanasoff, Digital Pioneer (New York: