Intel Sierra Forest: Xeon E-cores voor parallelle serverbelastingen

Sierra Forest binnen de Xeon-familie

Intel Sierra Forest is een codenaam voor Xeon 6-serverprocessoren met Efficiënte kernen (E-Cores). De onderzochte productlijst omvat modellen met 64 tot 144 kernen, waaronder processors uit de 6700E-serie. Intel richt deze versie onder andere op cloud- en scale-out-toepassingen, waarbij veel taken tegelijkertijd kunnen worden verwerkt.

Bij de keuze van een server-CPU is de codenaam daarom een uitgangspunt, maar geen volledige specificatie. Modellen binnen dezelfde serie verschillen onder andere qua aantal kernen, kloksnelheid en thermisch ontwerp. Welke combinatie zinvol is, hangt af van de hoeveelheid gelijktijdig bruikbare rekenkracht die een toepassing biedt en van de beperkingen die het betreffende serversysteem oplegt.

Granite Rapids verwijst daarentegen naar een andere Xeon 6-productlijn met Performance-cores (P-cores). Dit is een alternatief wanneer de prestaties van afzonderlijke cores of bepaalde uitbreidingen van de instructieset bijzonder belangrijk zijn. Uit de indeling als P-core of E-core alleen volgt echter nog geen conclusie voor een concrete toepassing.

Clearwater Forest moet als de volgende generatie E-Cores en Xeon 6+ los van Sierra Forest worden beschouwd. Een vermelding van maximaal 288 E-cores binnen de Xeon-familie is geen algemene specificatie voor Sierra Forest. Wie aanbiedingen vergelijkt, moet daarom de concrete modelnaam en de bijbehorende gegevens controleren, in plaats van uit te gaan van een maximum uit een andere generatie.

Veel E-cores voor parallel werk

Sierra Forest maakt gebruik van een modulaire multi-chiparchitectuur: reken- en I/O-modules bevinden zich samen in het processorpakket. De rekenmodules leveren de kernen voor de verwerking; via de I/O-zijde worden verbindingen met het platform tot stand gebracht. Voor de toepassing is niet zozeer het aantal modules van belang, maar veeleer de vraag of hun taken over de beschikbare kernen kunnen worden verdeeld.

Veel kernen kunnen bijvoorbeeld tegelijkertijd talrijke onafhankelijke webverzoeken of achtergrondtaken verwerken. De Doorvoer Dit geeft de hoeveelheid voltooide werkzaamheden per tijdseenheid weer, bijvoorbeeld het aantal succesvol beantwoorde verzoeken per seconde. Als deze waarde stijgt, betekent dat niet automatisch dat elk afzonderlijk verzoek sneller wordt beantwoord.

De latentie is hierbij doorslaggevend: deze geeft de tijd aan die nodig is voor een enkel verzoek of een enkele bewerking. Als meerdere diensten wachten op dezelfde database of een overbelaste opslag, kunnen extra CPU-kernen weliswaar meer werk aannemen, maar kunnen ze de wachttijd niet in hun eentje wegwerken. Juist bij piekbelastingen moet daarom naast de doorvoer ook rekening worden gehouden met de responstijd.

Op Scale-out wordt het werk verdeeld over meerdere instanties of servers. Meerdere kleine service-instanties kunnen zo parallel draaien, mits ze voldoende onafhankelijk zijn en gedeelde bronnen geen bottleneck vormen. Een enkele seriële taak wordt daarentegen niet automatisch sneller door extra ongebruikte kernen; de opeenvolgende stappen blijven van elkaar afhankelijk.

De verdeling over procesgrenzen of servers heen is niet hetzelfde als de opbouw van een CPU. Het aanvullende artikel over Swarm computing en decentrale samenwerking gaat in op een ander concept van gedistribueerde systemen. Voor Sierra Forest blijft het van cruciaal belang of de betreffende software voldoende taken genereert die parallel kunnen worden uitgevoerd op de beschikbare kernen.

E-cores, P-cores en softwarecompatibiliteit

Sierra Forest en de P-Core-versie van Xeon 6 behoren tot de x86-wereld. Dit vereenvoudigt de algemene indeling van bestaande software, maar betekent niet dat beide processortypen alle uitbreidingen op dezelfde manier ondersteunen of bij dezelfde toepassing dezelfde prestaties leveren. Voor een migratie moeten daarom zowel de uitvoerbare programma's als hun daadwerkelijke vereisten worden gecontroleerd.

Intel noemt voor Xeon 6 E-cores onder andere AVX2 en VNNI. Dergelijke uitbreidingen van de instructieset kunnen bepaalde berekeningen ondersteunen; of een toepassing hiervan gebruikmaakt en er voordeel uit haalt, hangt af van de code en de bibliotheken ervan. Het feit dat ze aanwezig zijn, zegt daarom niets over de haalbare doorvoer van een dienst.

Bij Xeon 6 is AVX-512 volgens Intel voorbehouden aan de P-Core-processoren. Als een programma deze uitbreiding absoluut vereist, is dat een direct compatibiliteitscriterium dat de ongewijzigde uitvoering op Sierra Forest uitsluit. Als het AVX-512 slechts optioneel gebruikt, kan het mogelijk via een ander codepad draaien; de prestaties daarvan moeten echter afzonderlijk worden beoordeeld.

Controleer daarom vóór een platformwisseling niet alleen de hoofdtoepassing, maar ook de runtime-omgeving en de rekenintensieve bibliotheken op hun CPU-vereisten. De documentatie van de fabrikant en de daadwerkelijk gebruikte softwareversies zijn hiervoor belangrijker dan de aanname dat elk x86-pakket op elke Xeon-variant dezelfde functionaliteit biedt.

De compatibiliteitstest geeft bovendien alleen aan of software kan draaien. Of een E-Core-configuratie bij een vooraf bepaald latentiedoel voldoende werk verricht, blijkt pas uit een vergelijking met de daadwerkelijke toepassing en de juiste serverconfiguratie. Voor sterk seriële of AVX-512-intensieve taken is een P-Core-systeem daarom een belangrijke vergelijkingsbasis, maar niet automatisch de winnaar.

Modellen, opslagcapaciteit en aansluitingen vergelijken

Bij Sierra Forest zegt het modelnummer meer dan alleen het aantal kernen. Voor een voorselectie komen bijvoorbeeld de 6710E, 6756E, 6766E en 6780E in aanmerking. Vergelijk naast het aantal kernen en threads ook de basis- en turbokloksnelheid en het betreffende prestatieprofiel: hetzelfde aantal kernen zegt nog niets over hoeveel thermische speling een server moet bieden.

De Xeon 6780E heeft 144 kernen en 144 threads. Intel geeft voor dit model een basiskloksnelheid van 2,2 GHz en een turbo tot 3,0 GHz op; de TDP van 330 W heeft betrekking op het opgegeven serverprofiel. De maximale turbosnelheid is geen gegarandeerde continue waarde voor alle kernen en elke bedrijfssituatie. Voor de 6766E, evenals voor de 6710E en 6756E, moet je de kloksnelheden en profielgegevens apart controleren in de productvergelijking voordat je een keuze maakt.

Het verschil tussen de twee modellen met 144 kernen heeft dus ook invloed op het ontwerp van de koeling en de stroomvoorziening. Uit de TDP-waarden alleen kan echter noch het gemeten stroomverbruik, noch de prestaties van een toepassing worden afgeleid. Het is van doorslaggevend belang welk model het vereiste werk verricht binnen de vastgestelde prestatielimieten en bij de werkelijke belasting.

Voor de 6780E noemt Intel acht Opslagkanalen, maximaal DDR5-6400, tot 88 PCIe 5.0-lanes en ondersteuning voor systemen met twee sockets. Welke geheugensnelheid daadwerkelijk wordt ondersteund bij de beoogde DIMM-configuratie, moet je controleren aan de hand van de specificaties voor het betreffende serversysteem en de gekozen geheugenmodules.

Hosting en virtuele machines dimensioneren

Veel onafhankelijke webinstanties kunnen profiteren van het hoge aantal cores als er daadwerkelijk voldoende verzoeken tegelijkertijd worden verwerkt. Voor de planning telt echter niet alleen het aantal geïnstalleerde instanties, maar ook het aantal gelijktijdig actieve diensten bij een vastgestelde beoogde responstijd. Een server kan vrije CPU-capaciteit aangeven en toch de doelstelling niet halen als verzoeken in de wachtrij staan voor geheugen of opslag.

Schat daarom eerst het werkgeheugen per instantie, inclusief de toepassing, de cache en het aandeel van het besturingssysteem. Houd vervolgens rekening met piekbelastingen en reserves voor onderhoud of het uitvallen van een host. Als de capaciteit van het werkgeheugen eerder ontoereikend wordt dan de rekenkracht, helpt een hoger aantal cores op zichzelf niet bij de gewenste consolidatie.

Ook opslag-I/O beïnvloedt de haalbare dichtheid: wanneer veel instanties tegelijkertijd gegevens lezen, schrijven of logbestanden genereren, kunnen er wachtrijen ontstaan. Controleer daarom bij realistische gelijktijdigheid niet alleen de gemiddelde doorvoer, maar ook de trage verzoeken. Een p99-doel beschrijft bijvoorbeeld de responstijd waaraan ten minste 99 procent van de onderzochte verzoeken moet voldoen.

Bij virtuele machines is een toegewezen vCPU Allereerst gaat het om een virtuele uitvoeringseenheid; er vindt geen automatische reservering van een fysieke kern plaats. Als meerdere VM’s dezelfde bronnen delen, zijn de beschikbare rekentijd en responstijden ook afhankelijk van hun gelijktijdige activiteit en de instellingen van de hypervisor. Plan reserveringen en overboeking daarom op basis van de vereisten van de afzonderlijke diensten.

Voor een server met twee sockets en een 6780E moet je bovendien de NUMA-topologie Controleer: geheugentoegang kan afhangen van de socket waarop het geheugen is aangesloten en waar de VM draait. Controleer de geheugenconfiguratie en -plaatsing in de hypervisor en vergelijk lokale met externe toegang onder belasting. De ondersteuning van Intel voor twee sockets is geen vervanging voor de goedkeuring van de specifieke server en hypervisor voor de gekozen CPU.

Verbruiksprofielen op een praktische manier vergelijken

Een meetplan begint met een concrete beslissing: hoeveel wachtrij-workers of netwerkverzoeken verwerkt de nieuwe configuratie bij dezelfde servicekwaliteit in vergelijking met de bestaande server of een P-Core-systeem? Stel hiervoor voor beide kandidaten dezelfde toepassing, dezelfde gegevenshoeveelheid en dezelfde gedefinieerde gelijktijdigheid vast. De volgende werkwijze is een eigen methodische aanbeveling, geen gedocumenteerde Intel-testprocedure en geen beschrijving van een uitgevoerde test.

Voor workers moet de test voldoende onafhankelijke taken bevatten, zodat extra kernen überhaupt kunnen worden benut. Registreer voltooide taken per tijdsperiode en de tijd die nodig is om ze te voltooien; kijk bovendien of de database, opslag of externe interfaces het proces beperken. Een enkele seriële taak is ongeschikt als enige basis voor de beoordeling van een platform dat is ontworpen voor parallellisme.

Documenteer voor een eigen vergelijking van netwerkdiensten ook de pakketgrootte, versleuteling, netwerkkaarten en stuurprogramma’s. Als de toepassing versnellers moet gebruiken, controleer dan of deze beschikbaar zijn voor de specifieke CPU- en serverconfiguratie en of ze worden ondersteund door de gebruikte software. Vergelijk vervolgens onder dezelfde belasting of het gebruik ervan een voordeel oplevert, in plaats van dit af te leiden uit specificaties.

Stel vooraf een p95- of p99-latentiedoel Stel de belasting vast en verhoog deze in logische stappen. Registreer daarbij de doorvoer en het foutenpercentage, samen met de latentie: meer verzoeken per seconde zijn geen evenwaardig resultaat als daarbij de afgesproken streeftijd voor het antwoord wordt overschreden of het aantal fouten toeneemt. Herhaal deze analyse ook voor de verwachte piekbelastingen.

Bepaal het elektrisch vermogen van de het totale systeem in ruststand, bij gedeeltelijke belasting en bij piekbelasting. Noteer de hardwareconfiguratie, firmware, het prestatieprofiel, de softwareversies en de meetduur, zodat verschillen niet per ongeluk uitsluitend aan de CPU worden toegeschreven. Op basis van het verrichte werk en de daarvoor benodigde energie kan vervolgens het werk per energie-eenheid worden vergeleken, mits de servicekwaliteit gelijk blijft.

Energiebehoefte en kosten in kaart brengen

De opgegeven TDP is een richtwaarde voor de processor, geen meting van de totale server. Voor de Xeon 6780E geeft Intel voor het opgegeven serverprofiel een TDP van 330 watt op. Hieruit kunnen noch het werkelijke energieverbruik bij een bepaalde belasting, noch de stroomkosten direct worden afgeleid.

Voor een betrouwbare vergelijking is het elektrisch vermogen van het volledige systeem van belang, inclusief opslag, schijven en netwerkkaarten. Dit vermogen varieert naargelang de belasting. Meet daarom gedurende een representatieve periode en registreer zowel de ruststand als typische en hoge belasting; een enkele piekwaarde geeft slechts een onvolledig beeld van de werking.

De Werk per energie-eenheid kan bijvoorbeeld worden uitgedrukt als het aantal succesvol afgehandelde verzoeken gedeeld door het gemeten energieverbruik. Vergelijk daarbij alleen werkzaamheden die aan dezelfde eisen voldoen: een hogere doorvoercapaciteit heeft weinig waarde als het foutenpercentage of de responstijden de afgesproken doelstelling overschrijden. Ook de gegevenshoeveelheid en het belastingsverloop moeten vergelijkbaar zijn.

Zelfs deze verhouding is niet voldoende om de rendabiliteit te waarborgen. Reken elektriciteit en koeling mee, samen met rackruimte, de aanschaf van hardware, onderhoud en softwarelicenties. Juist bij licentiemodellen die afhankelijk zijn van het aantal cores kan een hoog aantal cores de berekening beïnvloeden; bepalend zijn de concrete contractvoorwaarden, niet een veronderstelde licentieregel.

Consolidatie brengt bovendien migratie-inspanningen met zich mee: applicaties moeten worden gecontroleerd, gegevens moeten worden overgezet en bedrijfsprocedures moeten worden aangepast. Weeg deze eenmalige kosten en mogelijke uitvalrisico’s af tegen de lopende kosten. Het in gebruik houden van bestaande servers blijft een serieuze optie als hun bruikbare capaciteit en exploitatiekosten voldoende zijn voor de geplande periode.

Controleer de werking, de firmware en eventuele knelpunten

Als de Tail-latentie, begin met het tijdstip en de betreffende verzoekketen. Controleer of tegelijkertijd het foutenpercentage, de wachtrijen of het aantal parallelle verzoeken toeneemt. Een hoge p99-latentie betekent dat de traagste verzoeken buiten het gewenste tijdsbestek kunnen vallen; het gemiddelde alleen geeft dit probleem mogelijk niet weer.

Controleer vervolgens de CPU-bezetting en de verdeling van het werk. Een over het algemeen lage bezetting sluit een bottleneck bij afzonderlijke threads niet uit. Als er daarentegen veel kernen bezig zijn, controleer dan of er voldoende onafhankelijke taken zijn of dat synchronisatie en wachttijden de extra doorvoer beperken.

Bij een systeem met twee sockets hoort de Opslaglocatie Voor het opsporen van fouten: controleer de NUMA-toewijzing van processen of virtuele machines en hun geheugen. De Xeon 6780E ondersteunt systemen met twee sockets; of de specifieke plaatsing gunstig is voor een toepassing, hangt echter ook af van de server en de instellingen van de hypervisor.

Als de oorzaak onduidelijk blijft, controleer dan de geheugen- en opslag-I/O, evenals de netwerkpaden en externe diensten. Vertraagde reacties van de database of overbelaste netwerkverbindingen kunnen verzoeken vertragen, zonder dat de server-CPU continu volledig bezet is. Vergelijk de meetwaarden in de tijd met de trage verzoeken, in plaats van het aantal kernprocessoren overhaast als oorzaak aan te merken.

Controleer vóór de aanschaf en implementatie de lijst met goedgekeurde CPU’s van de serverfabrikant, de socket, de vereiste BIOS-versie en de ondersteuning door de hypervisor. Intel hanteert voor de 6700E-serie LGA4710-2 en voor de 6900P LGA7529-1; hieruit kan geen algemene uitwisselbaarheid tussen Xeon-series worden afgeleid.

Raadpleeg bovendien de specificatie-update voor de gebruikte processorreeks. Controleer relevante errata en verduidelijkingen aan de hand van de specifieke stepping en de firmwareversie en houd indien nodig rekening met gedocumenteerde oplossingen. Zo wordt de goedkeuring van het totale systeem aangevuld met bekende technische beperkingen.

Het juiste serverplatform kiezen

De keuze begint bij de toepassing, niet bij de hoogste waarde op het gegevensblad. Intel positioneert Xeon 6 E-cores voor een hoge kerndichtheid en parallelle doorvoer per taak, terwijl P-cores juist zijn bedoeld voor hoge prestaties per kern. Dit betekent echter nog niet dat daarmee vaststaat welk platform aan je latentiedoel en je capaciteitseisen voldoet.

Gebruik de tabel als uitgangspunt voor een Vergelijking bij gelijke servicekwaliteit, niet als prestatieranglijst. De volgende selectiemethode is een eigen aanbeveling en geen gedocumenteerde Intel-testprocedure: vergelijk het bestaande platform, een geschikte Sierra Forest-configuratie en, indien van toepassing, een P-Core-systeem met dezelfde eisen op het gebied van responstijd, foutpercentage en gegevensvolume. Documenteer de respectievelijke configuratie en bepaal de bruikbare prestaties van het volledige systeem.

Ook Op ARM gebaseerde servers zijn een mogelijke vergelijkingsoptie. Hiervoor moeten het besturingssysteem, de toepassingen en de benodigde softwarepakketten bij de architectuur passen; bovendien kunnen de porting en het gebruik aanpassingen vereisen. Uit de architectuuraanduiding alleen vloeit geen algemeen efficiëntievoordeel voort en dit moet onder dezelfde belastingomstandigheden worden getoetst.

Kies uiteindelijk het platform dat de vereiste capaciteit biedt, met voldoende reserve en de juiste bedrijfsomstandigheden, tegen de laagste totale kosten. Houd daarbij rekening met migratie en licenties en weeg indien nodig de risico’s en de benodigde ruimte af. Meer cores zijn een selectiecriterium, maar vervangen noch de applicatietest, noch de kostenberekening.