Intel Sierra Forest: Xeon E-kärnor för parallella serverbelastningar

Sierra Forest inom Xeon-familjen

Intel Sierra Forest är ett kodnamn för Xeon 6-serverprocessorer med Effektiva kärnor (E-Cores). Den undersökta produktlistan omfattar modeller med 64 till 144 kärnor, däribland processorer i 6700E-serien. Intel riktar in denna modell bland annat mot moln- och scale-out-applikationer, där många uppgifter kan bearbetas parallellt.

Vid valet av en server-CPU är kodnamnet därför en utgångspunkt, men inte en fullständig specifikation. Modellerna inom serien skiljer sig åt bland annat när det gäller antal kärnor, klockfrekvens och termisk utformning. Vilken kombination som är lämplig beror på hur mycket samtidigt utnyttjbar kapacitet en applikation tillhandahåller och vilka begränsningar det aktuella serversystemet medför.

Granite Rapids avser däremot en annan Xeon 6-produktserie med prestandakärnor (P-kärnor). Den utgör ett jämförelsealternativ när prestandan hos enskilda kärnor eller vissa utökningar av instruktionsuppsättningen är särskilt viktiga. Enbart klassificeringen som P-Core eller E-Core ger dock ännu inget svar för en konkret tillämpning.

Clearwater Forest ska betraktas som nästa generation av E-Core och Xeon 6+, separat från Sierra Forest. Uppgiften om att Xeon-familjen har upp till 288 E-kärnor är inte en generell specifikation för Sierra Forest. Den som jämför erbjudanden bör därför kontrollera den konkreta modellbeteckningen och dess specifikationer, istället för att utgå från ett maximalt värde från en annan generation.

Många E-kärnor för parallellt arbete

Sierra Forest använder en modulär arkitektur med flera chip: beräknings- och I/O-moduler finns tillsammans i processorkapseln. Beräkningskomponenterna tillhandahåller kärnorna för bearbetningen; via I/O-sidan ansluts kopplingar till plattformen. För applikationen är det inte så mycket antalet komponenter som spelar roll, utan snarare om deras arbete kan fördelas på de tillgängliga kärnorna.

Många kärnor kan till exempel hantera ett stort antal oberoende webbförfrågningar eller bakgrundsuppgifter samtidigt. Den Genomströmning beskriver här mängden utfört arbete per tidsenhet, till exempel antalet framgångsrikt besvarade förfrågningar per sekund. Om detta värde ökar betyder det inte automatiskt att varje enskild förfrågan besvaras snabbare.

Här är latensen avgörande: den avser tiden för en enskild förfrågan eller operation. Om flera tjänster väntar på samma databas eller ett överbelastat minne kan ytterligare CPU-kärnor visserligen ta emot mer arbete, men de kan inte på egen hand eliminera väntetiden. Särskilt vid belastningstoppar måste därför inte bara genomströmningen utan även svarstiden beaktas.

Med Skalbarhet Arbetet fördelas på flera instanser eller servrar. Flera små tjänsteinstanser kan därmed köras parallellt, förutsatt att de är tillräckligt oberoende av varandra och att gemensamma resurser inte utgör en flaskhals. Ett enskilt seriellt uppdrag blir däremot inte automatiskt snabbare genom ytterligare outnyttjade kärnor; dess på varandra följande steg förblir beroende av varandra.

Distributionen över processgränser eller mellan servrar kan inte likställas med uppbyggnaden av en CPU. Det kompletterande inlägget om Swarm Computing och decentraliserat samarbete behandlar ett annat koncept för distribuerade system. För Sierra Forest är det avgörande om den specifika programvaran genererar tillräckligt många uppgifter som kan köras parallellt för de befintliga kärnorna.

E-kärnor, P-kärnor och programvarukompatibilitet

Sierra Forest och P-Core-versionen av Xeon 6 tillhör x86-världen. Detta underlättar den grundläggande klassificeringen av befintlig programvara, men innebär inte att båda processortyperna stöder alla tillägg på samma sätt eller uppnår samma prestanda i samma applikation. Inför en migrering måste därför både de körbara programmen och deras faktiska krav granskas.

Intel anger bland annat följande för Xeon 6-E-kärnor: AVX2 och VNNI. Sådana utökningar av instruktionsuppsättningen kan stödja vissa beräkningar; huruvida en applikation använder dem och drar nytta av dem beror på dess kod och bibliotek. Enbart deras förekomst ger därför ingen indikation på den genomströmning som en tjänst kan uppnå.

I Xeon 6 är AVX-512 enligt Intel reserverat för P-Core-processorer. Om ett program kräver denna utökning är det ett direkt kompatibilitetskriterium som utesluter den oförändrade versionen på Sierra Forest. Om programmet endast använder AVX-512 som ett tillval kan det eventuellt köras med en annan kodväg; dess prestanda måste dock utvärderas separat.

Kontrollera därför inte bara huvudapplikationen innan du byter plattform, utan även dess körmiljö och beräkningskrävande bibliotek med avseende på deras CPU-krav. Tillverkarens dokumentation och de faktiskt använda programvaruversionerna är viktigare för detta än antagandet att varje x86-paket erbjuder samma funktionsomfång på varje Xeon-variant.

Kompatibilitetskontrollen visar dessutom endast om programvaran kan köras. Om en E-Core-konfiguration klarar av tillräckligt mycket arbete med ett givet latensmål framgår först vid en jämförelse med den faktiska applikationen och lämplig serverutrustning. För starkt seriella eller AVX-512-intensiva uppgifter är ett P-Core-system därför en viktig jämförelsegrund, men inte automatiskt det bästa alternativet.

Jämför modeller, lagringsutrymme och anslutningar

Hos Sierra Forest är modellnumret mer informativt än antalet kärnor i sig. För ett första urval kan till exempel modellerna 6710E, 6756E, 6766E och 6780E komma i fråga. Jämför inte bara antalet kärnor och trådar, utan även bas- och turbotakt samt respektive prestandaprofil: Samma antal kärnor säger inte nödvändigtvis hur mycket termiskt utrymme en server måste tillhandahålla.

Xeon 6780E har 144 kärnor och 144 trådar. Intel anger en basklockfrekvens på 2,2 GHz och upp till 3,0 GHz i Turbo-läge; TDP-värdet på 330 W avser den angivna serverprofilen. Den maximala turboklockfrekvensen är inte ett garanterat kontinuerligt värde för alla kärnor och alla driftssituationer. För 6766E samt för 6710E och 6756E bör du kontrollera klockfrekvens- och profiluppgifter separat i produktjämförelsen innan du gör ditt val.

Skillnaden mellan de två modellerna med 144 kärnor påverkar därmed även utformningen av kylning och strömförsörjning. Enbart utifrån TDP-värdena går det dock varken att fastställa den uppmätta strömförbrukningen eller prestandan för en viss applikation. Det avgörande är vilken modell som klarar av det nödvändiga arbetet inom de angivna prestandagränserna och med den faktiska belastningen.

För 6780E anger Intel åtta Lagringskanaler, maximalt DDR5-6400, upp till 88 PCIe 5.0-banor och stöd för system med två socklar. Vilken minneshastighet som faktiskt stöds vid den planerade DIMM-konfigurationen bör du kontrollera utifrån specifikationerna för det specifika serversystemet och de valda minnesmodulerna.

Dimensionering av webbhotell och virtuella maskiner

Många oberoende webbinstanser kan dra nytta av det höga antalet kärnor om tillräckligt många förfrågningar faktiskt bearbetas samtidigt. Vid planeringen är det dock inte bara antalet installerade instanser som räknas, utan antalet samtidigt aktiva tjänster vid ett fastställt svarstidsmål. En server kan visa ledig CPU-kapacitet och ändå missa målet om förfrågningar väntar på minne eller lagringsutrymme.

Beräkna därför först arbetsminnet per instans, inklusive applikation, cache och operativsystemets andel. Ta därefter hänsyn till belastningstoppar och reserver för underhåll eller om en värd skulle gå ner. Om arbetsminnets kapacitet tar slut före processorkapaciteten räcker det inte med ett högre antal kärnor för att uppnå den önskade konsolideringen.

Även lagrings-I/O påverkar den uppnåeliga densiteten: Om många instanser samtidigt läser, skriver eller genererar loggar kan köer uppstå. Kontrollera därför, vid realistisk samtidighet, inte bara den genomsnittliga genomströmningen utan även de långsamma förfrågningarna. Ett p99-mål beskriver till exempel den svarstid som minst 99 procent av de granskade förfrågningarna ska hålla sig inom.

När det gäller virtuella maskiner är en tilldelad vCPU Till att börja med handlar det om en virtuell exekveringsenhet, inte om en automatisk reservering av en fysisk kärna. Om flera virtuella maskiner delar på samma resurser beror den tillgängliga beräkningstiden och svarstiderna även på deras samtidiga aktivitet och hypervisorens inställningar. Planera därför reserveringar och överbokning utifrån de enskilda tjänsternas krav.

För en server med två socklar och 6780E bör du dessutom välja NUMA-topologi Kontrollera: Minnesåtkomst kan bero på vilket sockel minnet är anslutet till och var den virtuella maskinen körs. Kontrollera minneskonfigurationen och placeringen i hypervisorn och jämför lokala med fjärråtkomster under belastning. Intels stöd för två socklar ersätter inte godkännandet av den specifika servern och hypervisorn för den valda processorn.

Jämföra lastprofiler på ett praktiskt sätt

En mätplanering inleds med ett konkret beslut: Hur många köarbetare eller nätverksförfrågningar hanterar den nya konfigurationen med samma servicekvalitet jämfört med den befintliga servern eller ett P-Core-system? Ange samma applikation, datamängd och definierad samtidighet för båda alternativen. Följande tillvägagångssätt är en egen metodisk rekommendation, inte en dokumenterad Intel-testmetod och inte heller en beskrivning av ett genomfört test.

För arbetare bör testet innehålla tillräckligt många oberoende uppgifter för att ytterligare kärnor överhuvudtaget ska kunna utnyttjas. Registrera slutförda uppgifter per tidsperiod och tiden fram till slutförandet; observera dessutom om databasen, lagringsutrymmet eller externa gränssnitt begränsar processen. Ett enskilt seriellt uppdrag är olämpligt som enda underlag för utvärdering av en plattform som är utformad för parallellitet.

Dokumentera även paketstorlek, kryptering, nätverkskort och drivrutiner för att själv kunna jämföra nätverkstjänster. Om applikationen ska använda acceleratorer, kontrollera deras tillgänglighet för den specifika CPU- och serverkonfigurationen samt stödet från den programvara som används. Jämför därefter under samma belastning om användningen av dem ger någon fördel, istället för att dra slutsatser utifrån specifikationerna.

Ange i förväg p95- eller p99-latensmål Håll en stabil belastning och öka den i rimliga steg. Registrera samtidigt genomströmningen och felfrekvensen tillsammans med latensen: Fler förfrågningar per sekund innebär inte ett lika bra resultat om det överenskomna svartidsmålet överskrids eller om antalet fel ökar. Upprepa analysen även för de förväntade belastningstopparna.

Mät den elektriska effekten hos Helsystemet vid tomgång samt vid del- och toppbelastning. Dokumentera hårdvarukonfiguration, firmware, prestandaprofil, programvaruversioner och mätperiod, så att skillnader inte av misstag tillskrivs enbart CPU:n. Utifrån utfört arbete och den energi som krävs för detta kan man sedan jämföra arbetet per energienhet, förutsatt att servicekvaliteten förblir densamma.

Att sätta energibehovet och kostnaderna i sitt sammanhang

Den angivna TDP är ett riktvärde för processorn, inte en mätning av hela servern. För Xeon 6780E anger Intel ett TDP-värde på 330 watt för den angivna serverprofilen. Av detta går det varken att direkt avläsa den faktiska energiförbrukningen vid en viss belastning eller elkostnaderna.

För en tillförlitlig jämförelse är det hela systemets elektriska effektförbrukning som räknas, inklusive lagringsenheter, hårddiskar och nätverkskort. Den varierar beroende på belastningen. Mät därför under en representativ tidsperiod och registrera både viloläge samt typisk och hög belastning; ett enskilt toppvärde ger endast en ofullständig bild av driften.

Die Arbete per energienhet kan till exempel uttryckas som antalet framgångsrikt genomförda förfrågningar dividerat med den uppmätta energiförbrukningen. Jämför endast arbete som uppfyller samma krav: en högre genomströmning är av ringa värde om felfrekvensen eller svarstiderna överskrider det överenskomna målet. Även datamängden och belastningsförloppet måste vara jämförbara.

Inte ens detta förhållande räcker för att verksamheten ska vara lönsam. Räkna in kostnaderna för el och kylning tillsammans med rackutrymme, inköp av hårdvara, underhåll och programvarulicenser. Särskilt när det gäller licensmodeller som baseras på antalet kärnor kan ett högt antal kärnor påverka kostnadsbilden; det är de konkreta avtalsvillkoren som är avgörande, inte en antagen licensregel.

En konsolidering medför dessutom migrationsarbete: applikationer måste granskas, data överföras och driftsrutiner anpassas. Jämför dessa engångskostnader och eventuella risker för driftstopp med de löpande kostnaderna. Att fortsätta driva befintliga servrar är fortfarande ett seriöst alternativ om deras användbara kapacitet och driftskostnader är tillräckliga för den planerade tidsperioden.

Kontrollera drift, firmware och flaskhalsar

Om Tail-latens, börja med tidpunkten och den berörda förfrågningskedjan. Kontrollera om felprocenten, köerna eller antalet parallella förfrågningar ökar samtidigt. En hög p99-latens innebär att de långsammaste förfrågningarna kan ligga utanför den önskade tidsramen; genomsnittet i sig visar kanske inte detta problem.

Undersök därefter CPU-utnyttjandet och arbetsfördelningen. Ett generellt lågt utnyttjande utesluter inte att det förekommer flaskhalsar i enskilda trådar. Om däremot många kärnor är upptagna, kontrollera om det finns tillräckligt många oberoende uppgifter eller om synkronisering och väntetider begränsar den ytterligare genomströmningen.

I ett system med två socklar ingår Förvaringsplats Felsökning: Kontrollera NUMA-tilldelningen för processer eller virtuella maskiner och deras minne. Xeon 6780E stöder system med två socklar; huruvida den konkreta placeringen är lämplig för en viss applikation beror dock också på servern och hypervisorens inställningar.

Om orsaken fortfarande är oklar, spåra minnes- och lagrings-I/O samt nätverksvägar och externa tjänster. Fördröjda databassvar eller överbelastade nätverksanslutningar kan förlänga förfrågningarna utan att serverns CPU är konstant fullt utnyttjad. Jämför mätvärdena över tid med de långsamma förfrågningarna, istället för att förhastat anta att antalet kärnor är orsaken.

Kontrollera servertillverkarens lista över godkända processorer, sockeln, den nödvändiga BIOS-versionen och stödet från hypervisorn innan inköp och driftsättning. Intel anger LGA4710-2 för 6700E-serien och LGA7529-1 för 6900P; detta innebär dock inte att processorer inom Xeon-serierna är generellt utbytbara.

Ta dessutom hänsyn till specifikationsuppdateringen för den processorserie som används. Kontrollera relevanta errata och förtydliganden mot den specifika steppingen och firmwareversionen och beakta vid behov dokumenterade åtgärder. På så sätt kompletteras godkännandet av hela systemet med kända tekniska begränsningar.

Välja rätt serverplattform

Valet börjar med användningsområdet, inte med det högsta värdet i databladet. Intel positionerar Xeon 6 E-kärnor för hög kärntäthet och parallell genomströmning, medan P-kärnorna däremot är avsedda för hög prestanda per kärna. Det avgör dock inte vilken plattform som uppfyller dina krav på latens och kapacitet.

Använd tabellen som utgångspunkt för en Jämförelse vid samma servicekvalitet, inte som en prestandarankning. Följande urvalsmetod är en egen rekommendation och inte någon dokumenterad testmetod från Intel: Jämför den befintliga plattformen, en lämplig Sierra Forest-konfiguration och, i förekommande fall, ett P-Core-system med samma krav på svarstid, felfrekvens och datamängd. Dokumentera respektive konfiguration och beräkna det fullständiga systemets användbara prestanda.

Dessutom ARM-baserade servrar är ett möjligt alternativ. För detta måste operativsystemet, applikationerna och de nödvändiga programvarupaketen passa arkitekturen; dessutom kan portning och drift kräva vissa anpassningar. En allmän effektivitetsfördel följer inte automatiskt av arkitekturbeteckningen i sig och bör utvärderas under samma belastningsförhållanden.

Välj slutligen den plattform som tillhandahåller den erforderliga kapaciteten med tillräcklig reserv och lämpliga driftsförhållanden till den lägsta totalkostnaden. Beakta vid detta tillfälle migration och licenser och väg vid behov in risker och utrymmesbehov. Fler kärnor är ett urvalskriterium, men ersätter varken applikationstest eller kostnadsberäkning.