Intel Sierra Forest: rdzenie Xeon E do równoległej obsługi obciążeń serwerowych

Sierra Forest w ramach rodziny procesorów Xeon

Intel Sierra Forest to nazwa kodowa procesorów serwerowych Xeon 6 z Wydajne rdzenie (rdzenie typu E). Zestawienie produktów obejmuje modele od 64 do 144 rdzeni, w tym procesory z serii 6700E. Intel przeznacza tę wersję między innymi do zastosowań w chmurze i rozwiązań typu scale-out, w których wiele zadań może być przetwarzanych równolegle.

Dlatego nazwa kodowa stanowi punkt wyjścia przy wyborze procesora serwerowego, ale nie jest pełną specyfikacją. Modele z tej serii różnią się między innymi liczbą rdzeni, częstotliwością taktowania i parametrami termicznymi. To, która kombinacja jest odpowiednia, zależy od tego, ile pracy można jednocześnie wykorzystać w danej aplikacji oraz jakie ograniczenia nakłada dany system serwerowy.

Z kolei Granite Rapids to inna linia produktów Xeon 6 z rdzeniami wydajnościowymi (P-Cores). Stanowi ona alternatywę w sytuacjach, gdy szczególnie ważna jest wydajność poszczególnych rdzeni lub określone rozszerzenia zestawu instrukcji. Jednak sama klasyfikacja jako rdzeń typu P (P-Core) lub E (E-Core) nie pozwala jeszcze na określenie wyników dla konkretnego zastosowania.

Clearwater Forest należy traktować jako kolejną generację procesorów E-Core oraz Xeon 6+, odrębną od Sierra Forest. Informacja o rodzinie procesorów Xeon z maksymalnie 288 rdzeniami E-Core nie stanowi ogólnej specyfikacji dla Sierra Forest. Porównując oferty, należy zatem sprawdzić konkretną nazwę modelu i jego dane, zamiast przyjmować wartość maksymalną z innej generacji.

Wiele rdzeni E do pracy równoległej

Sierra Forest wykorzystuje modułową architekturę wieloukładową: moduły obliczeniowe i wejścia/wyjścia znajdują się razem w pakiecie procesora. Moduły obliczeniowe zapewniają rdzenie do przetwarzania danych; strona wejścia/wyjścia zapewnia połączenia z platformą. Dla aplikacji mniej istotna jest liczba modułów, a bardziej to, czy ich pracę można rozdzielić między dostępne rdzenie.

Wiele rdzeni może na przykład jednocześnie przetwarzać liczne niezależne żądania internetowe lub zadania w tle. Ten Przepustowość określa przy tym ilość wykonanej pracy w jednostce czasu, na przykład liczbę pomyślnie obsłużonych zapytań na sekundę. Wzrost tej wartości nie oznacza automatycznie, że każde pojedyncze zapytanie jest obsługiwane szybciej.

W tym przypadku kluczowe znaczenie ma opóźnienie: określa ono czas potrzebny na wykonanie pojedynczego zapytania lub operacji. Jeśli kilka usług oczekuje na dostęp do tej samej bazy danych lub przeciążonej pamięci, dodatkowe rdzenie procesora mogą co prawda przejąć dalszą pracę, ale same w sobie nie są w stanie wyeliminować czasu oczekiwania. Dlatego właśnie w przypadku szczytów obciążenia należy brać pod uwagę nie tylko przepustowość, ale także czas odpowiedzi.

Na stronie Rozszerzalność horyzontalna Praca jest rozdzielana na kilka instancji lub serwerów. W ten sposób może działać równolegle kilka małych instancji usług, o ile są one wystarczająco niezależne, a wspólne zasoby nie stają się wąskim gardłem. Natomiast pojedyncze zadanie szeregowe nie zostanie automatycznie wykonane szybciej dzięki dodatkowym, niewykorzystanym rdzeniom; jego kolejne etapy pozostają od siebie zależne.

Rozkładanie obciążenia ponad granicami procesów lub serwerów nie jest równoznaczne z budową procesora. Dodatkowy artykuł na temat Obliczenia roju i współpraca zdecentralizowana dotyczy innej koncepcji systemów rozproszonych. Dla Sierra Forest decydujące znaczenie ma to, czy dane oprogramowanie generuje wystarczającą liczbę zadań, które można wykonywać równolegle na dostępnych rdzeniach.

Rdzenie typu E, rdzenie typu P i kompatybilność oprogramowania

Sierra Forest i wersja Xeon 6 z rdzeniem P należą do świata x86. Ułatwia to zasadniczą klasyfikację istniejącego oprogramowania, ale nie oznacza to, że oba typy procesorów obsługują wszystkie rozszerzenia w jednakowy sposób ani że osiągają taką samą wydajność w tej samej aplikacji. W związku z tym przed migracją należy sprawdzić zarówno pliki wykonywalne, jak i ich rzeczywiste wymagania.

Intel wymienia między innymi następujące parametry rdzeni Xeon 6-E: AVX2 i VNNI. Takie rozszerzenia zestawu instrukcji mogą wspierać określone obliczenia; to, czy dana aplikacja z nich korzysta i czerpie z nich korzyści, zależy od jej kodu i bibliotek. Sam fakt ich obecności nie pozwala zatem na sformułowanie wniosków dotyczących możliwej przepustowości usługi.

W przypadku procesora Xeon 6 jest to AVX-512 według firmy Intel zarezerwowane dla procesorów z rdzeniami typu P. Jeśli program bezwzględnie wymaga tej rozbudowy, stanowi to bezpośrednie kryterium braku kompatybilności z niezmodyfikowaną wersją na platformie Sierra Forest. Jeśli natomiast korzysta z AVX-512 tylko opcjonalnie, może potencjalnie działać przy użyciu innej ścieżki kodu; jednak jego wydajność należy ocenić oddzielnie.

Dlatego przed zmianą platformy należy sprawdzić nie tylko główną aplikację, ale także jej środowisko uruchomieniowe oraz biblioteki wymagające dużej mocy obliczeniowej pod kątem ich wymagań dotyczących procesora. Dokumentacja producenta oraz faktycznie używane wersje oprogramowania mają w tym zakresie większe znaczenie niż założenie, że każdy pakiet x86 oferuje ten sam zakres funkcji na każdym wariancie procesora Xeon.

Test zgodności pozwala ponadto jedynie ustalić, czy oprogramowanie może działać. To, czy dana konfiguracja rdzeni E-Core wykona wystarczającą ilość pracy przy określonym docelowym opóźnieniu, pokazuje dopiero porównanie z rzeczywistą aplikacją i odpowiednim wyposażeniem serwera. W przypadku zadań o silnym charakterze szeregowym lub intensywnie wykorzystujących AVX-512 system oparty na rdzeniach P-Core stanowi zatem ważną podstawę porównawczą, ale nie jest automatycznym zwycięzcą.

Porównaj modele, pamięć i złącza

W przypadku Sierra Forest numer modelu ma większe znaczenie niż sama liczba rdzeni. Do wstępnego wyboru kwalifikują się na przykład modele 6710E, 6756E, 6766E i 6780E. Oprócz liczby rdzeni i wątków należy porównać również taktowanie podstawowe i turbo, a także profil wydajności: sama liczba rdzeni nie określa jeszcze, jaki zapas termiczny musi zapewnić serwer.

Procesor Xeon 6780E posiada 144 rdzenie i 144 wątki. Intel podaje dla niego częstotliwość bazową 2,2 GHz i częstotliwość w trybie Turbo do 3,0 GHz; wartość TDP wynosząca 330 W odnosi się do podanego profilu serwerowego. Maksymalna częstotliwość w trybie Turbo nie jest gwarantowaną wartością ciągłą dla wszystkich rdzeni i każdej sytuacji eksploatacyjnej. W przypadku modeli 6766E, 6710E oraz 6756E przed dokonaniem wyboru w porównywarce produktów należy osobno sprawdzić dane dotyczące częstotliwości taktowania i profilu.

Różnica między tymi dwoma modelami z 144 rdzeniami dotyczy zatem również konstrukcji układu chłodzenia i zasilania. Jednak na podstawie samych wartości TDP nie można określić ani zmierzonego zużycia energii, ani wydajności danej aplikacji. Decydujące znaczenie ma to, który model wykona wymaganą pracę w ramach przewidzianych limitów wydajności i przy rzeczywistym obciążeniu.

W przypadku modelu 6780E firma Intel wymienia osiem Kanały pamięci, maksymalnie DDR5-6400, do 88 linii PCIe 5.0 oraz obsługa systemów z dwoma gniazdami. Aby sprawdzić, jaka prędkość pamięci jest faktycznie obsługiwana przy planowanym wyposażeniu w moduły DIMM, należy zapoznać się z informacjami dotyczącymi kompatybilności konkretnego systemu serwerowego oraz wybranych modułów pamięci.

Dobór odpowiedniej wydajności hostingu i maszyn wirtualnych

Wiele niezależnych instancji internetowych może wykorzystać dużą liczbę rdzeni, o ile faktycznie przetwarzana jest wystarczająca liczba żądań jednocześnie. Jednak przy planowaniu liczy się nie tylko liczba zainstalowanych instancji, ale także liczba usług aktywnych jednocześnie przy określonym docelowym czasie odpowiedzi. Serwer może wykazywać wolną moc obliczeniową procesora, a mimo to nie osiągnąć celu, jeśli żądania oczekują na pamięć operacyjną lub pamięć masową.

Dlatego najpierw oszacuj ilość pamięci operacyjnej na instancję, uwzględniając aplikację, pamięć podręczną i część zajmowaną przez system operacyjny. Następnie weź pod uwagę szczytowe obciążenia oraz rezerwy na potrzeby konserwacji lub awarii serwera. Jeśli pojemność pamięci operacyjnej przestanie wystarczać wcześniej niż moc obliczeniowa, sama zwiększona liczba rdzeni nie pomoże w osiągnięciu pożądanej konsolidacji.

Również operacje wejścia/wyjścia pamięci masowej wpływają na osiągalną gęstość: gdy wiele instancji jednocześnie odczytuje dane, zapisuje je lub generuje logi, mogą powstawać kolejki. Dlatego w warunkach realistycznej współbieżności należy sprawdzić nie tylko średnią przepustowość, ale także wolne zapytania. Na przykład cel p99 opisuje czas odpowiedzi, który powinno osiągnąć co najmniej 99 procent analizowanych zapytań.

W przypadku maszyn wirtualnych przydzielona jest vCPU Przede wszystkim jest to wirtualna jednostka wykonawcza, a nie automatyczna rezerwacja fizycznego rdzenia. Jeśli kilka maszyn wirtualnych współdzieli te same zasoby, dostępny czas obliczeniowy i czasy odpowiedzi zależą również od ich jednoczesnej aktywności oraz ustawień hiperwizora. Dlatego rezerwacje planowe i nadmiarowość należy ustalać w oparciu o wymagania poszczególnych usług.

W przypadku serwera z dwoma gniazdami i procesorem 6780E warto również rozważyć Topologia NUMA Sprawdź: Dostęp do pamięci może zależeć od tego, do którego gniazda podłączona jest pamięć oraz gdzie działa maszyna wirtualna. Należy sprawdzić konfigurację pamięci i jej rozmieszczenie w hiperwizorze oraz porównać dostęp lokalny z dostępem zdalnym pod obciążeniem. Obsługa dwóch gniazd przez firmę Intel nie zastępuje zatwierdzenia konkretnego serwera i hiperwizora dla wybranego procesora.

Praktyczne porównanie profili obciążenia

Planowanie pomiarów zaczyna się od konkretnej decyzji: ile procesów kolejkowych lub żądań sieciowych przetwarza nowa konfiguracja przy tej samej jakości usług w porównaniu z istniejącym serwerem lub systemem z rdzeniami typu P? W tym celu należy określić tę samą aplikację, tę samą ilość danych oraz zdefiniowaną współbieżność dla obu kandydatów. Poniższa procedura stanowi nasze własne zalecenie metodologiczne, a nie udokumentowaną procedurę testową firmy Intel ani opis przeprowadzonego testu.

W przypadku modułów typu „worker” test powinien zawierać wystarczającą liczbę niezależnych zadań, aby dodatkowe rdzenie mogły w ogóle zostać wykorzystane. Należy rejestrować liczbę zakończonych zadań w danym przedziale czasowym oraz czas potrzebny do ich zakończenia; należy również obserwować, czy baza danych, pamięć masowa lub interfejsy zewnętrzne nie ograniczają przebiegu procesu. Pojedyncze zadanie szeregowe nie nadaje się jako jedyna podstawa do oceny platformy zaprojektowanej z myślą o równoległości.

Aby móc samodzielnie porównać usługi sieciowe, należy również udokumentować rozmiar pakietów, szyfrowanie, karty sieciowe i sterowniki. Jeśli aplikacja ma korzystać z akceleratorów, należy sprawdzić ich dostępność dla konkretnej konfiguracji procesora i serwera, a także obsługę przez używane oprogramowanie. Następnie, przy takim samym obciążeniu, sprawdź, czy ich użycie przynosi korzyści, zamiast wyciągać wnioski na podstawie samych specyfikacji sprzętowych.

Najpierw ustaw Docelowy czas opóźnienia p95 lub p99 Ustal obciążenie i zwiększaj je w logicznych krokach. Rejestruj przy tym przepustowość i wskaźnik błędów wraz z opóźnieniem: większa liczba zapytań na sekundę nie oznacza lepszego wyniku, jeśli przekracza to uzgodniony docelowy czas odpowiedzi lub wzrasta liczba błędów. Powtórz tę analizę również dla przewidywanych szczytów obciążenia.

Oblicz moc elektryczną Całego systemu w stanie spoczynku, a także przy obciążeniu częściowym i szczytowym. Należy odnotować konfigurację sprzętową, oprogramowanie układowe, profil wydajności, wersje oprogramowania oraz czas trwania pomiaru, aby przypadkowe różnice nie zostały przypisane wyłącznie procesorowi. Na podstawie wykonanej pracy i energii potrzebnej do jej wykonania można następnie porównać pracę na jednostkę energii, o ile jakość usług pozostaje taka sama.

Ocena zapotrzebowania na energię i kosztów

Podana TDP jest to wartość orientacyjna dla procesora, a nie pomiar dotyczący całego serwera. W przypadku procesora Xeon 6780E firma Intel podaje dla określonego profilu serwera wartość TDP wynoszącą 330 watów. Nie pozwala to jednak bezpośrednio określić ani rzeczywistego zapotrzebowania na energię przy określonym obciążeniu, ani kosztów energii elektrycznej.

Aby uzyskać miarodajne porównanie, należy uwzględnić pobór mocy elektrycznej całego systemu, w tym pamięci masowej, dysków twardych i kart sieciowych. Wartość ta zmienia się w zależności od obciążenia. Dlatego pomiary należy przeprowadzać w reprezentatywnym przedziale czasowym, uwzględniając zarówno tryb bezczynności, jak i typowe oraz wysokie obciążenie; pojedyncza wartość szczytowa nie oddaje w pełni charakteru pracy systemu.

Die Praca na jednostkę energii Można to na przykład wyrazić jako stosunek pomyślnie zrealizowanych zapytań do zmierzonego zapotrzebowania na energię. Należy przy tym porównywać wyłącznie zadania spełniające te same wymagania: wyższa przepustowość ma niewielką wartość, jeśli wskaźnik błędów lub czasy odpowiedzi przekraczają uzgodniony cel. Również ilość danych i przebieg obciążenia muszą być porównywalne.

Nawet ten stosunek nie wystarcza, by zapewnić opłacalność. Należy uwzględnić koszty energii elektrycznej i chłodzenia wraz z kosztami miejsca w szafie serwerowej, zakupem sprzętu, konserwacją i licencjami na oprogramowanie. Zwłaszcza w przypadku modeli licencyjnych opartych na liczbie rdzeni duża liczba rdzeni może wpłynąć na ostateczny koszt; decydujące znaczenie mają konkretne warunki umowy, a nie hipotetyczne zasady licencyjne.

Konsolidacja wiąże się ponadto z nakładem pracy związanym z migracją: konieczne jest sprawdzenie aplikacji, przeniesienie danych oraz dostosowanie procedur operacyjnych. Należy porównać te jednorazowe koszty i potencjalne ryzyko przestoju z kosztami bieżącymi. Dalsza eksploatacja istniejących serwerów pozostaje realną opcją, o ile ich pojemność użytkowa i koszty eksploatacji są wystarczające na planowany okres.

Sprawdź działanie, oprogramowanie sprzętowe i wąskie gardła

Jeśli Opóźnienie ogona, zacznij od określenia czasu i łańcucha zapytań, którego to dotyczy. Sprawdź, czy jednocześnie wzrasta wskaźnik błędów, długość kolejek lub liczba równoległych zapytań. Wysokie opóźnienie p99 oznacza, że najwolniejsze zapytania mogą wykraczać poza pożądany przedział czasowy; sama średnia może nie ujawnić tego problemu.

Następnie sprawdź obciążenie procesora i rozkład pracy. Ogólnie niskie obciążenie nie wyklucza występowania wąskich gardeł w poszczególnych wątkach. Jeśli natomiast wiele rdzeni jest zajętych, sprawdź, czy istnieje wystarczająca liczba niezależnych zadań, czy też synchronizacja i czasy oczekiwania ograniczają dodatkową przepustowość.

W systemie z dwoma gniazdami należy Miejsce przechowywania W celu wykrycia usterki: sprawdź przypisanie procesów lub maszyn wirtualnych do obszarów NUMA oraz ich pamięci. Procesor Xeon 6780E obsługuje systemy dwugniazdowe; to, czy konkretne rozmieszczenie jest korzystne dla danej aplikacji, zależy jednak również od serwera i ustawień hiperwizora.

Jeśli przyczyna pozostaje niejasna, należy prześledzić operacje wejścia/wyjścia pamięci i magazynu danych, a także ścieżki sieciowe i usługi zewnętrzne. Opóźnione odpowiedzi bazy danych lub przeciążone połączenia sieciowe mogą wydłużać czas realizacji zapytań, nawet jeśli procesor serwera nie jest stale w pełni obciążony. Porównaj wartości pomiarowe w czasie z powolnymi zapytaniami, zamiast pochopnie zakładać, że przyczyną jest liczba jądra.

Przed zakupem i wdrożeniem sprawdź listę kompatybilnych procesorów podaną przez producenta serwera, typ gniazda, wymaganą wersję BIOS-u oraz obsługę przez hiperwizora. Intel stosuje dla serii 6700E gniazdo LGA4710-2, a dla serii 6900P – LGA7529-1; nie można jednak na tej podstawie wywnioskować, że procesory z różnych serii Xeon są między sobą w pełni zamienne.

Ponadto należy zapoznać się z aktualizacją specyfikacji dla stosowanej serii procesorów. Należy sprawdzić odpowiednie errata i wyjaśnienia w odniesieniu do konkretnego steppingu i wersji oprogramowania układowego oraz, w razie potrzeby, uwzględnić udokumentowane środki zaradcze. W ten sposób zatwierdzenie całego systemu zostanie uzupełnione o znane ograniczenia techniczne.

Wybór odpowiedniej platformy serwerowej

Wybór należy rozpocząć od zastosowania, a nie od najwyższej wartości podanej w arkuszu danych. Intel pozycjonuje rdzenie Xeon 6-E jako zapewniające wysoką gęstość rdzeni i przepustowość przy równoległej obsłudze zadań, natomiast rdzenie P – jako zapewniające wysoką wydajność na rdzeń. Nie oznacza to jednak, że już wiadomo, która platforma spełni Twoje wymagania dotyczące opóźnienia i wydajności.

Wykorzystaj tabelę jako punkt wyjścia do Porównanie przy tej samej jakości usług, a nie jako ranking wydajności. Przedstawiona poniżej metoda wyboru stanowi nasze własne zalecenie, a nie udokumentowaną procedurę testową firmy Intel: porównaj istniejącą platformę, odpowiednią konfigurację Sierra Forest oraz, w razie potrzeby, system z rdzeniami typu P, uwzględniając te same wymagania dotyczące czasu odpowiedzi, wskaźnika błędów i ilości danych. Należy udokumentować odpowiednią konfigurację i określić wydajność użytkową całego systemu.

Również Serwery oparte na architekturze ARM stanowią potencjalną opcję porównawczą. W tym celu system operacyjny, aplikacje i wymagane pakiety oprogramowania muszą być dostosowane do architektury; ponadto przeniesienie i eksploatacja mogą wymagać wprowadzenia zmian. Sama specyfikacja architektury nie gwarantuje ogólnej przewagi pod względem wydajności i należy ją sprawdzić w identycznych warunkach obciążenia.

Na koniec wybierz platformę, która zapewnia wymaganą wydajność wraz z odpowiednią rezerwą oraz odpowiednie warunki eksploatacji przy najniższych kosztach całkowitych. Weź przy tym pod uwagę migrację i licencje, a w razie potrzeby uwzględnij ryzyko i zapotrzebowanie na miejsce. Większa liczba rdzeni jest jednym z kryteriów wyboru, ale nie zastępuje ani testów aplikacji, ani kalkulacji kosztów.