IPC и тактовая частота процессора: как правильно сравнивать процессоры для хостинга

IPC процессора: количество инструкций за такт

IPC процессора означает «Instructions per Cycle», то есть количество инструкций за такт. Для определённого диапазона измерения обычно количество выполненных машинных инструкций делится на количество циклов ЦП, учтённых в том же диапазоне. IPC, равный 2, в данном контексте означает в среднем две выполненные инструкции на каждый учтённый цикл.

Это значение представляет собой Характеристика исполнения, а не фиксированный показатель для всех задач процессора. Одна и та же система может достигать разного значения IPC при вычислениях с легкодоступными данными и при запросе к базе данных, который часто вынужден ожидать поступления данных из оперативной памяти. На результат также влияют конкретный набор данных и рассматриваемый участок программы.

Кэш хранит часто используемые данные в непосредственной близости от ЦП. Если же ядру приходится ждать доступа к более медленной памяти, то блоки выполнения могут временно простаивать. Аналогичным образом, зависимости между инструкциями и ветвлениями в ходе выполнения программы влияют на то, какой объем работы можно выполнять одновременно. Поэтому низкий показатель IPC является поводом для дальнейшего исследования, но ещё не является однозначным диагнозом.

Кроме того, машинная инструкция не является стандартизированной единицей, отражающей завершенный запрос в сети. Компилятор, набор команд и векторизация могут привести к тому, что разные программы для выполнения одной и той же задачи будут потребовать разное количество инструкций. Поэтому более высокий показатель IPC сам по себе не свидетельствует ни о более коротком времени отклика, ни о большем количестве запросов в секунду.

Для сравнения решающее значение имеет то, для какого приложения и в каком диапазоне измерений указано данное значение. Показатель IPC без этих сведений не позволяет определить, выполняют ли системы вообще одну и ту же работу. Дополнительные сведения о взаимодействии тактовой частоты, ядер и иерархии памяти можно найти в статье о Архитектура процессора в хостинге.

Что такое тактовая частота сервера и режим Boost

Тактовая частота характеризует количество циклов, которые процессор проходит за секунду. Один гигагерц (сокращённо ГГц) соответствует миллиарду циклов в секунду. Само по себе это значение не говорит о том, сколько инструкций программа выполняет за эти циклы или какой объём полезной работы она при этом выполняет.

В технических паспортах часто указывается Основная частота и максимальный буст. Базовая частота служит в качестве номинального значения; буст обозначает более высокую возможную частоту при соответствующих условиях. Оба этих показателя не заменяют наблюдения за фактически достигаемой тактовой частотой в ходе конкретного использования и при соответствующей нагрузке.

В качестве примера можно привести процессор AMD EPYC 9655: для этой модели AMD указывает 96 ядер, 192 потока, базовую тактовую частоту 2,6 ГГц и максимальную тактовую частоту в режиме Boost до 4,5 ГГц. Эти значения описывают технические характеристики и частотные параметры процессора. Они не являются ни измеренным показателем IPC, ни подтверждением определённой пропускной способности хостинга.

Для серии EPYC 9005 компания AMD определяет максимальный буст как максимальную частоту, которую может достигать отдельное ядро в нормальных условиях работы сервера. Таким образом, заявленная частота 9655 до 4,5 ГГц не означает, что все 96 ядер будут постоянно работать на этой частоте. На поведение процессора под нагрузкой влияют ограничения по мощности и температуре.

Для кратковременного выполнения отдельной задачи может иметь значение более высокая тактовая частота в отдельные моменты; при длительной параллельной нагрузке, напротив, важно, какую производительность система обеспечивает в течение всего времени работы. Другие модели этой серии имеют иные частоты и количество ядер. Сравнение, основанное исключительно на максимальном значении в ГГц, не позволило бы учесть эти различия и конкретные условия применения.

Ядра, потоки и виртуальные процессоры

Проще говоря, процесс — это запущенный экземпляр программы. В нем один или несколько потоков выполняют инструкции. Физическое ядро процессора обладает аппаратными средствами для выполнения такой работы; в зависимости от процессора операционные системы выделяют по одному или нескольким логическим потокам на каждое ядро. При этом логические потоки одного и того же ядра совместно используют часть его аппаратных ресурсов.

Задача, содержащая в значительной степени последовательный участок, не может произвольно распределить эту часть между множеством ядер. В этом случае важно, насколько быстро выполняющий поток выполняет конкретную работу. Независимые веб-запросы, напротив, часто можно обрабатывать параллельно: в этом случае дополнительные доступные ядра могут повысить общую пропускную способность, если это не ограничивается другими ресурсами.

Число логических потоков не следует приравнивать к числу независимых физических ядер. Например, согласно данным производителя, процессор EPYC 9655 имеет 96 физических ядер и 192 потока. Наличие 192 потоков не означает ни удвоения производительности по сравнению с 96 потоками, ни определённой пропускной способности для веб-сервера.

В случае виртуального сервера провайдер предоставляет гостевой операционной системе виртуальные процессоры Готово. Виртуальный процессор (vCPU) не всегда является физическим ядром, доступным исключительно для одного пользователя: его сопоставление с аппаратным обеспечением хоста может варьироваться в зависимости от тарифного плана, а вычислительное время может делиться с другими гостями или ограничиваться установленными лимитами.

Вопрос, который следует задать перед выбором конкретного ресурса: гарантируется ли время процессора или оно распределяется? Существуют ли постоянные ограничения производительности и как распределяются виртуальные процессоры (vCPU)? Большое количество виртуальных процессоров помогает параллельному приложению только в той мере, в какой фактически доступно достаточное вычислительное время; для последовательного участка кода оно не заменяет быстрое выполнение в одном потоке.

Совместный расчет IPC и тактовой частоты

IPC и тактовая частота характеризуют разные аспекты производительности процессора. В рамках соответствующего диапазона измерений их влияние можно приблизительно объединить: команд в секунду соответствуют показателю IPC, умноженному на количество эффективных тактов ЦП в секунду. При этом показатель IPC относится к количеству выполненных инструкций и количеству тактов, учтенных за тот же период.

Наглядный расчетный пример, не основанный на измерениях: если принять постоянные значения 2,0 инструкций на цикл и 3,0 ГГц, то по расчетам получается 6,0 миллиардов инструкций в секунду. Даже при показателе IPC 1,5 и тактовой частоте 4,0 ГГц получается 6,0 миллиардов. Таким образом, в данном примере более высокая тактовая частота компенсирует более низкий показатель IPC в расчёте.

Однако одинаковые показатели частоты выполнения инструкций не означают, что обе системы обрабатывают одинаковое количество веб-запросов. Для выполнения одной и той же задачи программы могут потребовать разное количество инструкций в зависимости от компилятора, набора команд и используемых команд. Поэтому одна инструкция не является единой мерой объема выполненной приложением работы.

Время отклика веб-сайта также нельзя непосредственно определить по данным продукта. Поток может ожидать данных с носителя или ответа из сети; при этом его скорость выполнения инструкций не отражает всего прошедшего времени. В случае виртуальной машины к этому добавляется тот факт, что она не всегда получает время процессора.

Поэтому для сравнения должно быть ясно, какой код и какой период времени были охвачены. Формула помогает оценить активное выполнение; для принятия решения о выборе хостинга дополнительно требуются данные о завершенных задачах и времени их выполнения в рамках сопоставимого профиля запросов.

Систематизация технического паспорта и ключевых показателей

Техническое описание содержит полезную информацию для выбора процессора для хостинга. Однако эти данные отвечают на разные вопросы: показатель IPC характеризует поведение в конкретном диапазоне измерений, тогда как данные о частоте и количестве ядер определяют свойства конкретной модели процессора. Только в совокупности с учетом конкретного приложения эти данные становятся пригодными критериями для сравнения.

Процессор EPYC 9655 демонстрирует, как эти характеристики взаимосвязаны: по данным AMD, эта модель имеет 96 ядер и 192 потока, базовую тактовую частоту 2,6 ГГц и максимальную тактовую частоту в режиме Boost до 4,5 ГГц. Частота 4,5 ГГц не является гарантированной частотой для всех ядер при постоянной нагрузке и не отражает измеренную пропускную способность хостинга.

Рейтинг, составленный по максимальной частоте в ГГц, не отражал бы, какой объем работы выполняют различные процессоры за один такт и для каждой задачи. В свою очередь, рейтинг по количеству ядер не учитывает того, что не каждое приложение может одинаково эффективно распределять свою работу между ядрами. Оба показателя являются отправными точками, а не окончательными оценками производительности.

Поэтому при рассмотрении предложений обращайте внимание на Вариант модели а также от того, какие ресурсы действительно доступны для использования. Для достоверного сравнения тебе также понадобится подходящий профиль нагрузки и результаты, полученные при использовании сопоставимого программного обеспечения и конфигурации. Технические характеристики разных моделей не следует смешивать с максимальными значениями, принятыми для всего семейства продуктов.

Выбор процессора для хостинга в зависимости от профиля нагрузки

Выбор процессора, подходящего для хостинга, зависит от того, какие задачи должен выполнять сервер. Длительная отдельная задача предъявляет иные требования, чем множество независимых веб-запросов. В таблице приведены типичные профили нагрузки с указанием основного показателя и вопроса, который следует прояснить перед выбором.

В случае отдельной задачи производительность выполняющего её потока имеет особое значение, если значительная часть работы выполняется последовательно. Увеличение количества ядер не приводит к автоматическому сокращению времени выполнения этой части. Кратковременный пик производительности также не является достаточным доказательством эффективности при выполнении длительной задачи: решающим фактором является её измеренное время выполнения в предусмотренных условиях.

В то же время многие независимые запросы могут обрабатываться параллельно. Здесь, помимо производительности на один поток, важно, сколько ресурсов доступно одновременно и как меняется время отклика при увеличении нагрузки. Сумма номинальных значений в ГГц не заменяет сравнения Общая пропускная способность при одинаковой степени параллелизма.

В случае базы данных с большим объемом рабочих данных обращения к памяти могут замедлять выполнение, если необходимые данные не получаются эффективно из кэшей. Низкий показатель IPC может служить поводом для дальнейшего исследования, но сам по себе не доказывает наличие узкого места в памяти. Поэтому перед заменой процессора проверьте также запросы, набор данных и конфигурацию памяти.

В случае с VPS дополнительно имеется Обязательство по предоставлению ресурсов Важно: виртуальный процессор (vCPU) не всегда соответствует отдельному физическому ядру. Необходимо уточнить вопросы о распределении ресурсов, возможных ограничениях процессора и совместном использовании с другими гостевыми системами. Только с учетом этих сведений можно адекватно сравнить результаты тестирования приложения с предложением по выделенному серверу.

Планировать сравнительные тесты приложений

Информативное сравнение начинается с вашего приложения, а не с отдельного показателя производительности процессора. Для обоих хостинг-пакетов установите одинаковую версию программного обеспечения, один и тот же набор данных и одинаковую конфигурацию. Компания SPEC считает, что собственное приложение, работающее на собственной инфраструктуре, является идеальным критерием для выбора продукта.

Затем определите Профиль запроса, который максимально точно отражает последующее использование: например, какие страницы или конечные точки API вызываются и сколько запросов поступает одновременно. Следи за тем, чтобы уровень параллелизма и ограничения по ресурсам оставались сопоставимыми между прогонами. Если в предложении указаны другие ограничения, четко зафиксируй их в документации, а не приписывай разницу исключительно процессору.

Предусмотрите период «разогрева», чтобы, например, приложение успело запуститься, а кэши — заполниться. После этого несколько достаточно длительных циклов помогут отделить кратковременные колебания от повторяющихся отклонений. Также зафиксируйте, выполнялись ли во время измерения на системах какие-либо другие задачи.

Помимо пропускной способности, регистрируйте Распределение времени отклика и ошибки. Более высокий средний показатель количества обработанных запросов в секунду сам по себе мало что значит, если отдельные запросы ждут очень долго или чаще завершаются сбоем. Поэтому сравнивайте также высокие процентили времени отклика при одинаковой степени параллелизма.

Опубликованные результаты тестов SPEC-CPU2017 могут служить дополнительным ориентиром. SPECspeed измеряет время, необходимое для выполнения задач, а SPECrate — пропускную способность; эти два показателя не являются напрямую взаимозаменяемыми. Сравнивайте результаты одного и того же показателя и учитывайте конфигурацию системы и программное обеспечение. Набор тестов CPU-Suite не отражает сетевые и ввод-вывод-операции полноценного хостинг-сервиса.

Проверка IPC и частоты во время работы

Для создания собственной тестовой среды Linux ты можешь с помощью perf зафиксировать завершенные инструкции и циклы существующей, проверенной программы. В приведенном ниже примере testprogramm Заполнитель: замените его своей тестовой программой и, при необходимости, её аргументами. Эта команда представляет собой предложение по тестированию, а не уже выполненный тест.

perf stat -e '{instructions,cycles}' -- testprogramm

Фигурные скобки объединяют события в одну Группа счетчиков вместе. Их следует регистрировать одновременно, что позволяет снизить количество ошибок, возникающих при мультиплексировании с задержкой. Разделите количество подсчитанных инструкций на количество подсчитанных циклов, чтобы получить показатель IPC для данного диапазона измерений; команда perf также может вывести это значение напрямую.

Доступность событий и возможность их просмотра зависят от аппаратного обеспечения, ядра, прав доступа и, в некоторых случаях, от среды виртуализации. Группа событий, которая недоступна или не поддается сопоставлению, не позволяет провести достоверное сравнение. Не изменяйте настройки безопасности исключительно для целей данного примера.

Даже индикатор частоты требует контекста: scaling_cur_freq согласно документации ядра, во многих случаях соответствует последнему состоянию, запрошенному драйвером, и не обязательно фактически достигнутой тактовой частоте аппаратного обеспечения. Это значение, доступное не везде, cpuinfo_cur_freq в свою очередь, должен отображать текущую частоту, определяемую на аппаратном уровне. Подробнее о Регулятор частоты процессора на хостинг-серверах объясняет принципы управления масштабированием частоты.

Низкий показатель IPC служит поводом для дальнейшего исследования, но не является окончательным диагнозом. Обращения к памяти могут замедлять выполнение; кроме того, необходимо проверить, какой участок программы измерялся и имеются ли другие факторы, влияющие на результат. Поэтому сравните значение счетчика с поведением приложения и его обращениями к данным.

Выявить узкое место и принять решение о модернизации

Начните с конкретного симптома: замедляется ли обработка запросов при высокой нагрузке, растёт ли количество ошибок или выполнение отдельной задачи занимает слишком много времени? Запишите, когда возникает проблема и какие процессы выполняются одновременно. Только после этого можно проверить, сможет ли увеличение производительности ЦП вообще сократить данную задержку.

Сначала проверьте доступное и используемое время процессора. Задача, требующая постоянных интенсивных вычислений, может выиграть от более быстрого выполнения или большей степени параллелизма. Однако высокая загрузка сама по себе не объясняет ни то, какой код её вызывает, ни то, возникает ли время отклика в первую очередь именно там. Поэтому сравните полученные данные с пропускной способностью и временем отклика для той же фазы нагрузки.

Затем проанализируйте потребности в памяти и операции доступа к данным. Если базе данных часто приходится обращаться к данным, находящимся за пределами кэша ЦП, она может задерживаться из-за ожидания памяти; низкий показатель IPC может указывать на это, но не доказывает причину. Также на наблюдаемую задержку могут влиять нехватка оперативной памяти, обращения к дискам или медленная работа внешних служб.

В случае с VPS к ним относится Обязательство по предоставлению ресурсов Что касается диагностики: необходимо уточнить распределение виртуальных процессоров (vCPU), возможные ограничения по процессору и совместное использование ресурсов с другими гостевыми системами. Выделенный сервер обеспечивает иное распределение физических ресурсов, однако и в этом случае результат зависит от приложения, конфигурации и профиля нагрузки. По возможности сравните оба предложения с помощью одного и того же теста приложения.

Рассмотрите возможность модернизации процессора, если результаты измерений указывают на соответствующее ограничение производительности со стороны процессора, а новый тарифный план действительно обеспечивает необходимое время вычислений. Если задержка в основном связана с памятью, накопителем или внешним сервисом, целесообразнее провести дальнейшее исследование именно в этих областях. Зафиксируйте исходное состояние, чтобы впоследствии можно было сопоставить результаты после внесенных изменений.

Не следует рассматривать максимальные значения разгона как гарантированную постоянную тактовую частоту всех ядер, а показатель IPC — как универсальную характеристику процессора. Точно так же одного показателя загрузки недостаточно для полной диагностики узких мест. Решение принимается исходя из конкретной задачи и фактически доступных ресурсов, а не на основе одного пикового показателя.