Intel Sierra Forest: Xeon E-kerner til parallelle serveropgaver

Sierra Forest inden for Xeon-familien

Intel Sierra Forest er et kodenavn for Xeon 6-serverprocessorer med Effektive kerner (E-Cores). Den undersøgte produktliste omfatter modeller med 64 til 144 kerner, herunder processorer fra 6700E-serien. Intel retter denne udgave blandt andet mod cloud- og scale-out-applikationer, hvor mange opgaver kan behandles parallelt.

Når man skal vælge en server-CPU, er kodenavnet derfor et udgangspunkt, men ikke en fuldstændig specifikation. Modellerne i serien adskiller sig blandt andet med hensyn til antal kerner, klokfrekvens og termisk design. Hvilken kombination der er hensigtsmæssig, afhænger af, hvor meget arbejde en applikation kan udføre samtidigt, og hvilke begrænsninger det pågældende serversystem sætter.

Granite Rapids betegner derimod en anden Xeon 6-produktserie med Performance-kerner (P-kerner). Den er et alternativ, når ydeevnen for de enkelte kerner eller bestemte udvidelser af instruktionssættet er særlig vigtige. Klassificeringen som P-Core eller E-Core alene giver dog ikke noget konkret resultat for en bestemt anvendelse.

Clearwater Forest skal betragtes som den næste generation af E-Cores og Xeon 6+, adskilt fra Sierra Forest. En angivelse af, at Xeon-familien kan have op til 288 E-Cores, er ikke en generel specifikation for Sierra Forest. Hvis man sammenligner tilbud, bør man derfor tjekke den konkrete modelbetegnelse og dens specifikationer i stedet for at gå ud fra et maksimum fra en anden generation.

Mange E-kerner til parallel behandling

Sierra Forest anvender en modulær arkitektur med flere chips: Beregnings- og I/O-moduler er samlet i processorpakken. Beregningsmodulerne leverer kernerne til databehandlingen, mens I/O-siden sørger for forbindelserne til platformen. For applikationen er det ikke så meget antallet af moduler, der tæller, men snarere, om deres arbejde kan fordeles på de tilgængelige kerner.

Mange kerner kan f.eks. behandle adskillige uafhængige webforespørgsler eller baggrundsopgaver samtidigt. Den Gennemstrømning beskriver herved mængden af udført arbejde pr. tidsenhed, for eksempel antallet af succesfuldt besvarede forespørgsler pr. sekund. Hvis denne værdi stiger, betyder det ikke automatisk, at hver enkelt forespørgsel besvares hurtigere.

Her er latenstiden afgørende: Den angiver den tid, det tager at behandle en enkelt forespørgsel eller operation. Hvis flere tjenester venter på den samme database eller et overbelastet lager, kan yderligere CPU-kerner ganske vist påtage sig mere arbejde, men de kan ikke alene fjerne ventetiden. Især ved belastningsspidser skal man derfor ud over gennemstrømningen også tage responstiden i betragtning.

Med Scale-out Arbejdet fordeles på flere instanser eller servere. Flere små serviceinstanser kan således køre parallelt, forudsat at de er tilstrækkeligt uafhængige, og at fælles ressourcer ikke udgør en flaskehals. En enkelt seriel opgave bliver derimod ikke automatisk hurtigere af, at der er ekstra ubrugte kerner; dens på hinanden følgende trin forbliver afhængige af hinanden.

Fordelingen på tværs af procesgrænser eller servere kan ikke sidestilles med opbygningen af en CPU. Det supplerende indlæg til Swarm Computing og decentralt samarbejde omhandler et andet koncept for distribuerede systemer. For Sierra Forest er det afgørende, om den konkrete software genererer tilstrækkeligt mange opgaver, der kan udføres parallelt, til de tilgængelige kerner.

E-kerner, P-kerner og softwarekompatibilitet

Sierra Forest og P-Core-versionen af Xeon 6 hører til x86-verdenen. Det gør det lettere at klassificere eksisterende software, men det betyder ikke, at begge processortyper understøtter alle udvidelser på samme måde eller leverer den samme ydeevne i den samme applikation. Ved en migrering skal man derfor undersøge både de eksekverbare programmer og deres faktiske krav.

Intel angiver blandt andet følgende for Xeon 6E-kerner: AVX2 og VNNI. Sådanne udvidelser af instruktionssættet kan understøtte bestemte beregninger; om et program bruger dem og drager fordel af dem, afhænger af dets kode og biblioteker. Deres blotte tilstedeværelse giver derfor ikke mulighed for at sige noget om den gennemstrømning, en tjeneste kan opnå.

I Xeon 6 er AVX-512 Ifølge Intel er denne funktion forbeholdt P-Core-processorer. Hvis et program kræver denne udvidelse, er det et direkte kompatibilitetskriterium, der udelukker den uændrede udgave på Sierra Forest. Hvis det kun bruger AVX-512 som en valgmulighed, kan det muligvis køre med en anden kodesti; dens ydeevne skal dog vurderes separat.

Før du skifter platform, bør du derfor ikke kun kontrollere hovedapplikationen, men også dens kørselsmiljø og beregningsintensive biblioteker med hensyn til deres CPU-krav. Producentens dokumentation og de faktisk anvendte softwareversioner er i denne sammenhæng vigtigere end antagelsen om, at ethvert x86-pakke tilbyder samme funktionsomfang på alle Xeon-varianter.

Kompatibilitetstesten viser desuden kun, om softwaren kan køre. Om en E-Core-konfiguration kan udføre tilstrækkeligt arbejde med et givet latensmål, viser først en sammenligning med den reelle anvendelse og passende serverudstyr. Til stærkt serielle eller AVX-512-intensive opgaver er et P-Core-system derfor et vigtigt sammenligningsgrundlag, men ikke automatisk den bedste løsning.

Sammenlign modeller, lagerplads og tilslutningsmuligheder

Hos Sierra Forest er modelnummeret mere sigende end selve antallet af kerner. Til en foreløbig udvælgelse kan man for eksempel overveje modellerne 6710E, 6756E, 6766E og 6780E. Sammenlign ikke kun kerner og tråde, men også basis- og turbo-klokfrekvens samt den respektive ydeevneprofil: Det samme antal kerner siger ikke nødvendigvis noget om, hvor meget termisk spillerum en server skal kunne tilbyde.

Xeon 6780E har 144 kerner og 144 tråde. Intel angiver en basisfrekvens på 2,2 GHz og op til 3,0 GHz i Turbo-tilstand; TDP-værdien på 330 W gælder for den angivne serverprofil. Den maksimale turbofrekvens er ikke en garanteret vedvarende værdi for alle kerner og alle driftssituationer. For 6766E samt 6710E og 6756E bør du tjekke frekvens- og profildata separat i produktsammenligningen, inden du træffer dit valg.

Forskellen mellem de to modeller med 144 kerner påvirker således også udformningen af køling og strømforsyning. Ud fra TDP-værdierne alene kan man dog hverken udlede det målte strømforbrug eller en applikations ydeevne. Det afgørende er, hvilken model der udfører det nødvendige arbejde inden for de fastsatte ydeevnegrænser og med den faktiske belastning.

For 6780E nævner Intel otte Lagringskanaler, maksimalt DDR5-6400, op til 88 PCIe 5.0-baner og understøttelse af systemer med to sokler. Du bør kontrollere, hvilken hukommelseshastighed der faktisk understøttes ved den planlagte DIMM-konfiguration, ved at se på godkendelserne for det konkrete serversystem og de valgte hukommelsesmoduler.

Dimensionering af hosting og virtuelle maskiner

Mange uafhængige webinstanser kan udnytte det høje antal kerner, hvis der rent faktisk behandles tilstrækkeligt mange anmodninger samtidigt. Ved planlægningen er det dog ikke kun antallet af installerede instanser, der tæller, men antallet af samtidigt aktive tjenester ved et fastsat svarstidsmål. En server kan vise ledig CPU-kapacitet og alligevel ikke nå målet, hvis anmodninger venter på hukommelse eller lagerplads.

Vurder derfor først arbejdshukommelsen pr. instans, inklusive applikation, cache og operativsystemets andel. Tag derefter højde for belastningsspidser og reserver til vedligeholdelse eller nedbrud af en host. Hvis RAM-kapaciteten ikke længere er tilstrækkelig før regnekraften, hjælper et højere antal kerner alene ikke med den ønskede konsolidering.

Også storage-I/O påvirker den opnåelige tæthed: Hvis mange instanser samtidig læser, skriver eller genererer logfiler, kan der opstå køer. Kontroller derfor under realistiske samtidighedsforhold ikke kun den gennemsnitlige gennemstrømning, men også de langsomme forespørgsler. Et p99-mål beskriver for eksempel den responstid, som mindst 99 procent af de undersøgte forespørgsler skal overholde.

For virtuelle maskiner er en tildelt vCPU Først og fremmest en virtuel eksekveringsenhed – der foretages ingen automatisk reservation af en fysisk kerne. Hvis flere virtuelle maskiner deler de samme ressourcer, afhænger den tilgængelige regnetid og responstiderne også af deres samtidige aktivitet og hypervisorens indstillinger. Planlæg derfor reservationer og overbooking ud fra de enkelte tjenesters krav.

Til en server med to sokler og en 6780E bør du desuden vælge NUMA-topologi Kontroller: Adgang til hukommelsen kan afhænge af, hvilken sokkel hukommelsen er tilsluttet, og hvor den virtuelle maskine kører. Kontroller hukommelseskonfigurationen og placeringen i hypervisoren, og sammenlign lokale og eksterne adgangsforespørgsler under belastning. Intels understøttelse af to sokler erstatter ikke godkendelsen af den konkrete server og hypervisor til den valgte CPU.

Praktisk sammenligning af belastningsprofiler

En måleplanlægning starter med en konkret beslutning: Hvor mange kø-arbejdere eller netværksforespørgsler kan den nye konfiguration behandle med samme servicekvalitet sammenlignet med den eksisterende server eller et P-Core-system? Fastlæg til dette formål den samme applikation, datamængde og definerede samtidighed for begge kandidater. Den følgende fremgangsmåde er en egen metodisk anbefaling, ikke en dokumenteret Intel-testprocedure og ikke en beskrivelse af en gennemført test.

For arbejdere bør testen indeholde tilstrækkeligt mange uafhængige opgaver, så yderligere kerner overhovedet kan udnyttes. Registrer afsluttede opgaver pr. tidsinterval samt tiden indtil afslutningen; hold desuden øje med, om databasen, lagringsmediet eller eksterne grænseflader begrænser forløbet. En enkelt seriel opgave er ikke egnet som eneste grundlag for vurderingen af en platform, der er designet til parallelitet.

For at kunne sammenligne netværkstjenester på egen hånd bør du også dokumentere pakkestørrelse, kryptering, netværkskort og drivere. Hvis applikationen skal bruge acceleratorer, skal du kontrollere, om disse er tilgængelige for den konkrete CPU- og serverkonfiguration, samt om den anvendte software understøtter dem. Sammenlign derefter under samme belastning, om brugen af dem giver en fordel, i stedet for at udlede det ud fra en specifikation.

Indtast først p95- eller p99-latensmål Fastlæg belastningen og øg den i overskuelige trin. Registrer samtidig gennemstrømningen og fejlprocenten sammen med ventetiden: Flere forespørgsler pr. sekund er ikke nødvendigvis et bedre resultat, hvis det aftalte svarstidsmål overskrides, eller hvis antallet af fejl stiger. Gentag analysen også for de forventede belastningstoppe.

Mål den elektriske effekt af Hele systemet i tomgang samt ved delbelastning og spidsbelastning. Notér hardwarekonfiguration, firmware, ydeevneprofil, softwareversioner og måletid, så forskelle ikke ved en fejltagelse tilskrives udelukkende CPU’en. Ud fra det udførte arbejde og den dertil nødvendige energi kan man derefter sammenligne arbejdet pr. energienhed, forudsat at servicekvaliteten forbliver den samme.

Inddele energibehov og omkostninger

Den angivne TDP er et vejledende tal for processoren, ikke en måling af den samlede server. For Xeon 6780E angiver Intel en TDP på 330 watt for den angivne serverprofil. Herfra kan man hverken umiddelbart udlede det faktiske energiforbrug ved en bestemt belastning eller strømomkostningerne.

For at få et pålideligt sammenligningsgrundlag er det det samlede systems elektriske strømforbrug, der tæller, herunder lagerenheder, harddiske og netværkskort. Dette ændrer sig afhængigt af belastningen. Mål derfor over en repræsentativ periode, og registrer både tomgang samt typisk og høj belastning; en enkelt spidsværdi giver kun et ufuldstændigt billede af driften.

Die Arbejde pr. energienhed kan f.eks. udtrykkes som antallet af vellykkede forespørgsler divideret med det målte energiforbrug. Man bør her kun sammenligne arbejde, der opfylder de samme krav: En højere gennemstrømning har ringe værdi, hvis fejlprocenten eller svartiderne overskrider det aftalte mål. Også datamængden og belastningsforløbet skal være sammenlignelige.

Selv dette forhold er ikke tilstrækkeligt for at sikre rentabiliteten. Medregn strøm og køling sammen med rackplads, indkøb af hardware, vedligeholdelse og softwarelicenser. Især ved kerneafhængige licensmodeller kan et højt antal kerner ændre regnestykket; det afgørende er de konkrete kontraktbetingelser, ikke en antaget licensregel.

En konsolidering medfører desuden en indsats i forbindelse med migrering: Applikationer skal gennemgås, data skal overføres, og driftsprocedurer skal tilpasses. Sammenlign disse engangsomkostninger og eventuelle nedbrudsrisici med de løbende omkostninger. Fortsat drift af eksisterende servere er stadig en seriøs mulighed, hvis deres anvendelige kapacitet og driftsomkostninger er tilstrækkelige i den planlagte periode.

Kontroller drift, firmware og flaskehalse

Hvis den Tail-latens, start med at se på tidspunktet og den pågældende forespørgselskæde. Undersøg, om fejlraten, køerne eller antallet af parallelle forespørgsler samtidig stiger. En høj p99-latens betyder, at de langsomste forespørgsler kan ligge uden for den ønskede tidsramme; gennemsnittet alene viser muligvis ikke dette problem.

Undersøg derefter CPU-udnyttelsen og arbejdsfordelingen. En generelt lav udnyttelse udelukker ikke, at der er flaskehalse i enkelte tråde. Er der derimod mange kerner i brug, skal du kontrollere, om der er tilstrækkeligt med uafhængige opgaver, eller om synkronisering og ventetider begrænser den ekstra gennemstrømning.

I et system med to sokler hører Opbevaringssted Fejlfinding: Kontroller NUMA-tildelingen af processer eller virtuelle maskiner og deres hukommelse. Xeon 6780E understøtter systemer med to sokler; om den konkrete placering er gunstig for en given applikation, afhænger dog også af serveren og hypervisorens indstillinger.

Hvis årsagen stadig er ukendt, skal du overvåge hukommelses- og lagrings-I/O samt netværksstier og eksterne tjenester. Forsinkede svar fra databasen eller overbelastede netværksforbindelser kan forlænge forespørgslerne, uden at serverens CPU er fuldt udnyttet hele tiden. Sammenlign måleværdierne over tid med de langsomme forespørgsler, i stedet for forhastet at antage, at antallet af kerner er årsagen.

Inden indkøb og implementering skal du kontrollere serverproducentens liste over godkendte CPU’er, soklen, den krævede BIOS-version og understøttelsen fra hypervisoren. Intel angiver LGA4710-2 for 6700E-serien og LGA7529-1 for 6900P; heraf kan man ikke udlede, at der er generel udskiftbarhed mellem Xeon-serierne.

Se desuden specifikationsopdateringen for den anvendte processorserie. Kontroller relevante errat og præciseringer i forhold til den konkrete stepping og firmwareversion, og tag om nødvendigt højde for dokumenterede afhjælpninger. På denne måde suppleres godkendelsen af det samlede system med kendte tekniske begrænsninger.

Vælg den rette serverplatform

Valget starter med anvendelsen, ikke med den højeste værdi i databladet. Intel positionerer Xeon 6 E-kerner til høj kerne-tæthed og parallel gennemstrømning af opgaver, mens P-kerner derimod er beregnet til høj ydeevne pr. kerne. Det afgør dog ikke, hvilken platform der opfylder dit mål for latenstid og dine kapacitetskrav.

Brug tabellen som udgangspunkt for en Sammenligning ved samme servicekvalitet, ikke som en præstationsrangliste. Den følgende udvælgelsesmetode er en egen anbefaling og ikke en dokumenteret Intel-testprocedure: Sammenlign den eksisterende platform, en passende Sierra-Forest-konfiguration og eventuelt et P-Core-system med de samme krav til responstid, fejlrate og datamængde. Dokumenter den respektive konfiguration og fastlæg det komplette systems nyttige ydelse.

Også ARM-baserede servere er en mulig sammenligningsmulighed. Til det formål skal operativsystemet, applikationerne og de nødvendige softwarepakker passe til arkitekturen; derudover kan portning og drift kræve ændringer. En generel effektivitetsfordel følger ikke alene af arkitekturbetegnelsen og bør undersøges under de samme belastningsforhold.

Vælg til sidst den platform, der leverer den krævede kapacitet med tilstrækkelig reserve og de rette driftsbetingelser til de laveste samlede omkostninger. Tag herved højde for migration og licenser, og vægt om nødvendigt risici og pladsbehov. Flere kerner er et udvælgelseskriterium, men erstatter hverken applikationstesten eller omkostningsberegningen.