Intel Sierra Forest: ядра Xeon-E для параллельных серверных нагрузок

Sierra Forest в рамках семейства Xeon

Intel Sierra Forest — это кодовое название серверных процессоров Xeon 6 с Эффективные ядра (E-Cores). В состав составленного списка продуктов входят модели с количеством ядер от 64 до 144, в том числе процессоры серии 6700E. Компания Intel ориентирует эту версию, в частности, на облачные и масштабируемые приложения, в которых можно параллельно обрабатывать большое количество задач.

Поэтому кодовое название служит отправной точкой при выборе серверного процессора, но не является полной спецификацией. Модели в рамках одной серии различаются, в частности, по количеству ядер, тактовой частоте и тепловым характеристикам. Выбор оптимальной комбинации зависит от того, какой объем одновременно доступной рабочей нагрузки обеспечивает приложение и какие ограничения накладывает конкретная серверная система.

Granite Rapids, напротив, обозначает другую линейку процессоров Xeon 6 с ядрами повышенной производительности (P-Core). Она представляет собой альтернативный вариант, если особенно важны производительность отдельных ядер или определенные расширения набора команд. Однако сама по себе классификация как P-Core или E-Core ещё не даёт результата для конкретного приложения.

Clearwater Forest следует рассматривать как следующее поколение процессоров с E-ядрами и линейку Xeon 6+, отдельно от Sierra Forest. Указание о семействе процессоров Xeon с количеством ядер E-Core до 288 не является универсальной спецификацией для Sierra Forest. Поэтому при сравнении предложений следует проверять конкретное название модели и её технические характеристики, а не ориентироваться на максимальные значения другого поколения.

Множество электронных ядер для параллельной работы

Sierra Forest использует модульную многочиповую архитектуру: вычислительные и ввод-выводные блоки совместно размещены в корпусе процессора. Вычислительные блоки обеспечивают ядра для обработки данных; со стороны ввода-вывода осуществляется подключение к платформе. Для приложения важно не столько количество блоков, сколько возможность распределения их работы между доступными ядрами.

Множество ядер может одновременно обрабатывать, например, множество независимых веб-запросов или фоновых задач. Пропускная способность при этом описывает объем выполненной работы за единицу времени, например, количество успешно обработанных запросов в секунду. Увеличение этого показателя не означает автоматически, что на каждый отдельный запрос отвечают быстрее.

Здесь решающую роль играет задержка: она обозначает время, необходимое для обработки одного запроса или операции. Если несколько сервисов обращаются к одной и той же базе данных или к перегруженному хранилищу, дополнительные ядра ЦП могут, конечно, взять на себя дополнительную нагрузку, но сами по себе не смогут устранить время ожидания. Поэтому, особенно в моменты пиковой нагрузки, помимо пропускной способности необходимо учитывать и время отклика.

На сайте Горизонтальное масштабирование работа распределяется между несколькими экземплярами или серверами. Таким образом, несколько небольших экземпляров службы могут работать параллельно, при условии, что они достаточно независимы и общие ресурсы не становятся узким местом. В то же время выполнение отдельного последовательного задания не ускоряется автоматически за счёт дополнительных неиспользуемых ядер; его последовательные этапы остаются взаимозависимыми.

Распределение между процессами или серверами не следует приравнивать к архитектуре ЦП. Дополнительная статья по теме Роевые вычисления и децентрализованное сотрудничество рассматривает другую концепцию распределенных систем. Для Sierra Forest решающим фактором остается то, генерирует ли конкретное программное обеспечение достаточное количество задач, которые можно выполнять параллельно на имеющихся ядрах.

E-Cores, P-Cores и совместимость программного обеспечения

Sierra Forest и версия Xeon 6 с архитектурой P-Core относятся к платформе x86. Это упрощает классификацию имеющегося программного обеспечения, но не означает, что оба типа процессоров одинаково поддерживают все расширения или обеспечивают одинаковую производительность при работе с одним и тем же приложением. Поэтому для миграции необходимо проверить как исполняемые программы, так и их фактические требования.

Intel указывает для ядер Xeon 6-E, в частности, следующее: AVX2 и VNNI. Такие расширения набора команд могут поддерживать определенные вычисления; то, использует ли приложение эти расширения и извлекает ли из них выгоду, зависит от его кода и библиотек. Поэтому само по себе их наличие не позволяет сделать выводы о достижимой пропускной способности сервиса.

В случае с Xeon 6 AVX-512 по данным Intel, зарезервировано для процессоров с ядрами P-Core. Если программа обязательно требует этого расширения, это является непосредственным критерием несовместимости с неизменённой версией на Sierra Forest. Если же AVX-512 используется лишь опционально, программа, возможно, сможет работать с другим кодовым путем; однако её производительность необходимо оценивать отдельно.

Поэтому перед сменой платформы следует проверить не только основное приложение, но и его среду выполнения, а также библиотеки, требующие интенсивных вычислений, на предмет их требований к процессору. Документация производителя и фактически используемые версии программного обеспечения имеют в этом случае большее значение, чем предположение о том, что любой пакет x86 на любой версии процессора Xeon обеспечивает одинаковый набор функций.

Кроме того, проверка совместимости позволяет определить лишь то, сможет ли программное обеспечение работать. Только сравнение с реальным приложением и подходящим серверным оборудованием покажет, способна ли конфигурация с E-Core выполнить достаточный объём работы при заданном целевом значении задержки. Поэтому для задач с высокой степенью последовательности или интенсивного использования AVX-512 система с P-Core является важной отправной точкой для сравнения, но не является автоматическим победителем.

Сравнить модели, объемы памяти и разъемы

В случае с Sierra Forest номер модели говорит о многом больше, чем просто количество ядер. Для предварительного отбора можно рассмотреть, например, модели 6710E, 6756E, 6766E и 6780E. Помимо количества ядер и потоков, сравнивайте также базовую и турбо-частоту, а также соответствующий профиль производительности: одно и то же количество ядер ещё не говорит о том, какой тепловой запас должен обеспечивать сервер.

Процессор Xeon 6780E имеет 144 ядра и 144 потока. Intel указывает для него базовую тактовую частоту 2,2 ГГц и турбо-частоту до 3,0 ГГц; показатель TDP 330 Вт относится к указанному серверному профилю. Максимальная тактовая частота в режиме Turbo не является гарантированным постоянным значением для всех ядер и в любой рабочей ситуации. Для моделей 6766E, а также 6710E и 6756E перед выбором следует отдельно проверить данные о тактовой частоте и профиле в сравнительной таблице продуктов.

Таким образом, разница между этими двумя 144-ядерными моделями затрагивает также конструкцию системы охлаждения и источника питания. Однако на основании одних только значений TDP невозможно определить ни фактическое энергопотребление, ни производительность приложения. Решающим фактором является то, какая из моделей выполняет необходимую работу в пределах предусмотренных ограничений по мощности и при фактической нагрузке.

В отношении модели 6780E компания Intel называет восемь Каналы хранения, максимум DDR5-6400, до 88 линий PCIe 5.0 и поддержка систем с двумя сокелами. Какая скорость памяти фактически поддерживается при предусмотренной комплектации модулей DIMM, следует проверить на основе спецификаций конкретной серверной системы и выбранных модулей памяти.

Расчет мощности хостинга и виртуальных машин

Многие независимые веб-инстанции могут использовать высокое количество ядер, если одновременно действительно обрабатывается достаточное количество запросов. Однако при планировании важно не только количество установленных инстанций, но и количество одновременно активных сервисов при заданном целевом времени отклика. Сервер может показывать наличие свободных ресурсов ЦП и при этом не достигать целевого показателя, если запросы ожидают доступа к оперативной памяти или хранилищу.

Поэтому сначала оцените объем оперативной памяти на каждый экземпляр, включая приложение, кэш и долю операционной системы. Затем учтите пиковые нагрузки и резервы на техническое обслуживание или на случай выхода из строя хоста. Если объём оперативной памяти станет недостаточным раньше, чем вычислительная мощность, простое увеличение количества ядер не поможет в достижении желаемой консолидации.

Влияние на достижимую плотность оказывает также ввод-вывод хранилища: если многие экземпляры одновременно читают, записывают данные или генерируют журналы, могут возникать очереди. Поэтому при реалистичной параллельности следует проверять не только среднюю пропускную способность, но и медленные запросы. Например, целевой показатель p99 описывает время отклика, которое должно соблюдаться как минимум в 99 процентах рассматриваемых запросов.

В случае виртуальных машин выделяется vCPU Прежде всего, речь идет о виртуальном процессоре, а не об автоматическом резервировании физического ядра. Если несколько виртуальных машин используют одни и те же ресурсы, доступное вычислительное время и время отклика также зависят от их одновременной активности и настроек гипервизора. Поэтому планируйте резервирование и перегрузку с учётом требований отдельных сервисов.

Для двухпроцессорного сервера с процессором 6780E тебе также следует учесть Топология NUMA Проверить: доступ к памяти может зависеть от того, к какому сокету подключена память и где работает виртуальная машина. Проверьте конфигурацию и расположение памяти в гипервизоре и сравните локальные и удалённые обращения к памяти в условиях нагрузки. Поддержка Intel двух сокелей не заменяет проверку совместимости конкретного сервера и гипервизора с выбранным процессором.

Практическое сравнение профилей нагрузки

Планирование тестирования начинается с конкретного решения: сколько рабочих процессов в очереди или сетевых запросов обрабатывает новая конфигурация при том же качестве обслуживания по сравнению с существующим сервером или системой на базе P-Core? Для этого задайте для обоих вариантов одинаковое приложение, объем данных и заданную степень параллелизма. Приведенный ниже подход представляет собой собственную методическую рекомендацию, а не документированную процедуру тестирования Intel и не описание проведенного теста.

Для рабочих процессов тест должен содержать достаточное количество независимых задач, чтобы дополнительные ядра могли быть задействованы. Учитывайте количество завершенных задач за определенный промежуток времени и время, затраченное на их выполнение; кроме того, следите за тем, не ограничивают ли работу базы данных, системы хранения данных или внешние интерфейсы. Один-единственный последовательный задание не может служить единственным основанием для оценки платформы, рассчитанной на параллельную обработку.

Для собственного сравнения сетевых сервисов также зафиксируйте размер пакетов, тип шифрования, сетевые карты и драйверы. Если приложение должно использовать ускорители, проверьте их доступность для конкретной конфигурации процессора и сервера, а также поддержку со стороны используемого программного обеспечения. Затем, при одинаковой нагрузке, сравните, приносит ли их использование реальную выгоду, вместо того чтобы делать выводы на основании технических характеристик оборудования.

Заранее установи Целевое значение латентности p95 или p99 Установите нагрузку и увеличивайте её постепенно, следуя логичной последовательности. При этом фиксируйте пропускную способность и частоту ошибок вместе с задержкой: увеличение количества запросов в секунду не является равнозначным улучшению результата, если при этом превышается согласованное целевое время отклика или растёт количество ошибок. Повторите анализ также для ожидаемых пиков нагрузки.

Измерьте электрическую мощность Общая система в режиме простоя, а также при частичной и пиковой нагрузке. Зафиксируйте конфигурацию аппаратного обеспечения, прошивку, профиль производительности, версии программного обеспечения и продолжительность измерений, чтобы случайно не приписать различия исключительно процессору. На основании выполненной работы и затраченной на это энергии можно затем сравнить работу на единицу энергии, при условии, что качество обслуживания остается неизменным.

Оценка потребности в энергии и затрат

Указанная TDP является расчетным значением для процессора, а не результатом измерения для всего сервера. Для процессора Xeon 6780E компания Intel указывает TDP в 330 ватт для данного профиля сервера. На основании этого значения невозможно непосредственно определить ни фактическое энергопотребление при конкретной нагрузке, ни расходы на электроэнергию.

Для достоверного сравнения следует учитывать потребляемую электрическую мощность всей системы, включая накопители, дисководы и сетевые карты. Этот показатель изменяется в зависимости от нагрузки. Поэтому проводите измерения в течение репрезентативного периода времени и фиксируйте как режим простоя, так и типичную и высокую нагрузку; однократное пиковое значение дает лишь неполное представление о работе системы.

Die Работа на единицу энергии Можно, например, выразить это как количество успешно обработанных запросов, деленное на измеренную потребность в энергии. При этом следует сравнивать только те операции, которые соответствуют одним и тем же требованиям: более высокая пропускная способность не имеет большого значения, если уровень ошибок или время отклика превышают согласованные целевые показатели. Кроме того, объём данных и динамика нагрузки также должны быть сопоставимы.

Даже этого соотношения недостаточно для обеспечения рентабельности. Необходимо учитывать затраты на электроэнергию и охлаждение вместе со стоимостью места в стойке, закупкой оборудования, техническим обслуживанием и лицензиями на программное обеспечение. Особенно в случае моделей лицензирования, зависящих от количества ядер, большое количество ядер может существенно изменить расчет; решающее значение имеют конкретные условия договора, а не гипотетическое правило лицензирования.

Кроме того, консолидация сопряжена с затратами на миграцию: необходимо проверить приложения, перенести данные и адаптировать рабочие процедуры. Сравните эти единовременные затраты и возможные риски простоев с текущими расходами. Продолжение эксплуатации существующих серверов остается серьезным вариантом, если их полезная мощность и эксплуатационные расходы достаточны на запланированный период.

Проверить работу, прошивку и узкие места

Если Задержка хвоста, начните с определения момента времени и соответствующей цепочки запросов. Проверьте, не наблюдается ли одновременно рост уровня ошибок, длины очередей или количества параллельных запросов. Высокая задержка p99 означает, что самые медленные запросы могут выходить за пределы желаемого временного интервала; среднее значение само по себе может не отражать эту проблему.

Затем проанализируйте загрузку ЦП и распределение нагрузки. Низкая общая загрузка не исключает наличия узких мест в отдельных потоках. Если же задействовано много ядер, проверьте, достаточно ли независимых задач или же синхронизация и время ожидания ограничивают дополнительную пропускную способность.

В системе с двумя сокетами Место хранения Поиск неисправностей: проверьте NUMA-распределение процессов или виртуальных машин и их памяти. Процессор Xeon 6780E поддерживает двухпроцессорные системы; однако то, насколько конкретное размещение будет оптимальным для приложения, зависит также от сервера и настроек гипервизора.

Если причина остаётся неясной, проследите операции ввода-вывода в памяти и хранилище, а также сетевые пути и внешние службы. Задержки в ответах базы данных или перегруженные сетевые соединения могут удлинять время обработки запросов, даже если процессор сервера не работает на полной мощности постоянно. Сравните временные показатели с медленными запросами, вместо того чтобы поспешно считать количество ядер причиной проблемы.

Перед закупкой и внедрением проверьте список поддерживаемых процессоров производителя сервера, тип разъема, требуемую версию BIOS и поддержку гипервизором. Intel использует LGA4710-2 для серии 6700E и LGA7529-1 для серии 6900P; из этого нельзя сделать вывод о полной взаимозаменяемости между сериями процессоров Xeon.

Кроме того, ознакомьтесь с обновлением технических характеристик для используемой серии процессоров. Проверьте соответствующие исправления и разъяснения с учетом конкретного степпинга и версии прошивки и, при необходимости, примените задокументированные меры по устранению неполадок. Таким образом, в процесс утверждения всей системы будут включены известные технические ограничения.

Выбор подходящей серверной платформы

Выбор следует начинать с конкретного применения, а не с максимальных значений, указанных в техническом паспорте. Intel позиционирует ядра Xeon 6-E как обеспечивающие высокую плотность ядер и пропускную способность при параллельном выполнении задач, а ядра P — как обеспечивающие высокую производительность на одно ядро. Однако это ещё не означает, что определено, какая платформа соответствует вашим целям по задержке и требованиям к пропускной способности.

Используйте таблицу в качестве отправной точки для Сравнение при одинаковом качестве обслуживания, а не как рейтинг производительности. Приведенная ниже методика выбора является нашей собственной рекомендацией, а не официальной процедурой тестирования Intel: сравните существующую платформу, подходящую конфигурацию Sierra Forest и, при необходимости, систему с ядрами P-Core с одинаковыми требованиями к времени отклика, частоте ошибок и объему данных. Задокументируйте соответствующую комплектацию и определите полезную производительность всей системы.

Также Серверы на базе ARM являются одним из возможных вариантов сравнения. Для этого операционная система, приложения и необходимые программные пакеты должны соответствовать архитектуре; кроме того, перенос и эксплуатация могут потребовать внесения изменений. Само по себе обозначение архитектуры не гарантирует общего преимущества в эффективности, и его следует проверять при одинаковых условиях нагрузки.

В конечном итоге выберите платформу, которая обеспечивает требуемую производительность с достаточным запасом мощности и подходящими условиями эксплуатации при наименьших совокупных затратах. При этом учитывайте затраты на миграцию и лицензии, а также, при необходимости, оценивайте риски и требования к занимаемому пространству. Большее количество ядер является одним из критериев выбора, но не заменяет ни тестирование приложений, ни расчёт затрат.