AMD EPYC Turin: de juiste server-CPU kiezen voor hostingproviders

AMD EPYC Turin op de juiste plaats zetten

AMD EPYC Turin verwijst naar de EPYC 9005-generatie van serverprocessoren. AMD introduceerde deze in oktober 2024 als de vijfde generatie EPYC; tot deze serie behoren modellen met Zen-5- en Zen-5c-kernen.

Voor hostingproviders is Turin geen afzonderlijke CPU met een uniforme prestatiekarakteristiek. Het modellengamma varieert van acht tot 192 kernen per processor. Welk model geschikt is, hangt af van de vraag of er veel onafhankelijke klantverzoeken tegelijkertijd worden verwerkt, of afzonderlijke applicaties korte responstijden vereisen, of dat virtuele machines vooral veel werkgeheugen nodig hebben.

Bij de keuze hoort ook de vraag over de Aantal sokkels: Een server met één processor biedt een andere combinatie van rekencapaciteit, geheugenaansluitingen en uitbreidingsmogelijkheden dan een platform met twee sockets. Niet elk model is geschikt voor beide varianten; processors met het achtervoegsel ‘P’ zijn volgens het gegevensblad ontworpen voor systemen met één socket.

Een voorselectie begint daarom bij de specifieke klantenmix en de vereisten op het gebied van RAM, NVMe-schijven en het netwerk. Een drukbezette VPS-host heeft bijvoorbeeld reserves nodig voor gelijktijdig actieve virtuele machines, terwijl een databaseserver bovendien kan inspelen op opslagbehoeften en I/O. Ook softwarelicenties en de goedkeuringen van de serverfabrikant maken deel uit van de planning.

Het aantal cores alleen zegt nog niet hoeveel bestaande hosts kunnen worden vervangen. Hiervoor heeft de aanbieder vergelijkbare belastingprofielen en meetwaarden van de bestaande hostinghardware nodig, evenals een vastgestelde uitvalreserve. Zonder deze basis is het wel mogelijk om een model te kiezen, maar niet om een betrouwbare consolidatiegraad te bepalen.

Inzicht in kernen, chiplets en kloksnelheid

Turijn gebruikt een Chiplet-ontwerp: Rekenunits en een aparte I/O-chip zijn via AMD Infinity Fabric met elkaar verbonden. De I/O-chip zorgt onder andere voor de verbindingen met het werkgeheugen en de in- en uitvoer. Voor de praktische serverplanning betekent dit dat niet alleen de kernen, maar ook de aansluiting van de gedeelde bronnen van belang is.

Zen 5 en Zen 5c verschillen qua ontwerp en kernindeling. Zen 5c biedt binnen deze generatie de hoogste kerndichtheid; hieruit volgt echter geen algemene prestatierangorde. Een sterk geparalleliseerde VM-mix en een toepassing met weinig latentiegevoelige taken kunnen verschillende modellen in het voordeel werken.

De EPYC 9965 heeft 192 Zen-5c-kernen en 384 threads, terwijl de EPYC 9755 128 Zen-5-kernen en 256 threads heeft. AMD geeft een maximale boost aan van maximaal 3,7 GHz voor de 9965 en maximaal 4,1 GHz voor de 9755. Deze waarden laten verschillende aandachtspunten zien, maar vervangen geen vergelijking op basis van het eigen belastingsprofiel.

De opgegeven maximale boost Er is met name geen gegarandeerde constante kloksnelheid voor alle kernen. Welke frequentie onder belasting wordt bereikt, hangt onder andere af van de belasting en de bedrijfsomstandigheden. Voor een hostingbeslissing zijn de doorvoersnelheid en responstijden bij een gedefinieerde mix van toepassingen daarom veelzeggender dan de geïsoleerde piekwaarde.

Het dubbele aantal threads is het gevolg van SMT: één fysieke kern levert twee logische threads. Deze delen echter de kernbronnen; 384 threads zijn noch 384 fysieke kernen, noch een automatische verdubbeling van de rekenkracht. Of SMT en het overboeken van CPU-bronnen helpen, moet worden getoetst aan de hand van de gelijktijdig actieve klantbelasting.

Geheugen en I/O beperken de capaciteit

Veel CPU-kernen hebben een passende geheugenconfiguratie nodig. Volgens AMD ondersteunt de EPYC 9005 tot twaalf DDR5-geheugenkanalen per CPU. Voor een VM-host telt niet alleen de totale RAM-capaciteit: ook de verdeling van de modules en de beschikbare geheugenbandbreedte zijn van invloed op hoe goed gelijktijdig actieve gasten kunnen worden bediend.

In het gegevensblad wordt voor de genoemde modellen een snelheid tot DDR5-6400 vermeld bij één DIMM per kanaal. De daadwerkelijk bruikbare snelheid hangt af van de configuratie en de goedkeuring van het platform. Ook de in het gegevensblad vermelde maximaal 6 TB DDR5 heeft betrekking op de daar aangegeven configuraties met twee DIMM’s per kanaal en is geen garantie voor elke server.

Meer RAM-modules kunnen zinvol zijn om de benodigde capaciteit te bereiken, maar veranderen wel de te controleren configuratie. Daarom moeten leveranciers de gewenste modulegrootte en bezetting afstemmen op de goedkeuringslijst van de serverfabrikant, in plaats van de maximale capaciteit en snelheid uit het gegevensblad onafhankelijk van elkaar bij elkaar op te tellen.

Voor NVMe-schijven en netwerkkaarten geldt bovendien de PCIe-aansluiting cruciaal. AMD noemt tot 128 PCIe 5.0-lanes voor systemen met één socket en tot 160 voor servers met twee sockets. Hoeveel aansluitingen een specifiek moederbord daadwerkelijk biedt, hangt af van het platformontwerp en het gebruik van de aansluitingen; het 2P-maximum geldt niet automatisch voor een 1P-host.

Bij de configuratie is het daarom de moeite waard om naar de onderlinge interactie te kijken: meer NVMe-schijven kunnen extra aansluitingen in beslag nemen, terwijl ook snelle netwerkkaarten moeten worden aangesloten. CXL 2.0 behoort tot de platformmogelijkheden, maar is niet automatisch een functie die op elke server beschikbaar is. De ondersteuning door apparaten, firmware en besturingssystemen moet voor het gekozen systeem worden gecontroleerd.

Turijn-pakketten voor hosting vergelijken

De EPYC-9005-serie heeft verschillende speerpunten: de 9965 richt zich op maximale kerndichtheid, terwijl de 9575F streeft naar een hogere kloksnelheid. Bij de keuze telt niet alleen de CPU, maar ook de combinatie van het specifieke model, het aantal sockets en de toepassingsbelasting. In de volgende tabel worden vier modellen op basis van AMD-gegevens met elkaar vergeleken.

De 9965 biedt bijzonder veel fysieke kernen voor onafhankelijke taken. Dat kan interessant zijn bij een sterk geparalleliseerde VM-mix, mits het geheugen en de I/O dit kunnen bijhouden. De 9755 biedt minder kernen, maar een hogere maximale boost en meer totale L3-cache. Uit deze gegevens alleen kan geen vaste rangorde voor hostingtoepassingen worden afgeleid.

De 9575F is een mogelijke alternatieve optie wanneer afzonderlijke werkstappen korte responstijden vereisen. Zijn maximale boost Er is echter geen permanent gegarandeerde kloksnelheid voor alle kernen. Of dit model economischer is dan een model met meer kernen, hangt onder andere af van gelijktijdige verzoeken en het licentiemodel.

Bij de 9655P beperkt dit P-achtervoegsel de geschiktheid van de socket voor systemen met één socket. Voor een server met twee sockets is dit model daarom geen optie. Een bredere platformvergelijking zou concrete configuraties en metingen moeten omvatten; hierover gaat het artikel over de Keuze tussen AMD EPYC en Intel Xeon meer informatie.

Hosting-workloads en knelpunten toewijzen

Een server-CPU moet geschikt zijn voor de diensten die tegelijkertijd draaien. Bij shared hosting ontstaan er veel onafhankelijke verzoeken, bij virtuele machines strijden complete besturingssystemen om bronnen, en databases reageren, afhankelijk van de werklast, gevoelig op geheugentoegang of opslaglatentie. Het volgende overzicht vertaalt deze verschillen naar toetsvragen voor het ontwerp.

Bij shared hosting is het aantal gelijktijdig actieve workers net zo relevant als de duur van afzonderlijke verzoeken. Een hoge CPU-bezetting kan bij een goede doorvoer acceptabel zijn; op zichzelf zegt dit echter niets over de vraag of klanten lang moeten wachten. Daarom moeten de verdeling van de responstijden en de foutpercentages bij bepaalde belastingniveaus in de vergelijking worden meegenomen.

Bij databases is de L3-cache slechts een deel van het geheel. De 9755 heeft in totaal 512 MB, de 9965 in totaal 384 MB. Deze modelwaarden bewijzen geen voordeel voor de database: de omvang van de datasets, toegangs patronen, de verdeling van het werk en de RAM-configuratie beïnvloeden hoe vaak gegevens uit andere opslagniveaus nodig zijn.

Een beheerde Redis-dienst vormt bijvoorbeeld een aanvulling op de applicatiemix als cache. Hiervoor moeten aanbieders niet alleen rekening houden met CPU-bronnen, maar vooral ook met het beschikbare werkgeheugen en de vereisten van de specifieke dienst. Het artikel over Redis 8 en upgrade-beslissingen voor hostingproviders gaat onder andere in op opslaglimieten en de werking van dergelijke diensten.

Voor een eerlijke vergelijking van modellen moeten de VM-mix, de RAM-configuratie, de opslagcapaciteit en de belastingniveaus zo veel mogelijk vergelijkbaar blijven. Anders kunnen verschillen in responstijden of doorvoercapaciteit niet op zinvolle wijze worden toegeschreven aan de keuze van de CPU. Ook een snellere afhandeling van individuele verzoeken en een hogere totale doorvoercapaciteit zijn afzonderlijke doelstellingen, die bij de tariefplanning verschillend kunnen worden gewogen.

Een voorbeeld van het plannen van VM-capaciteit

Een rekenvoorbeeld maakt de ordes van grootte duidelijk: een host met een EPYC 9965 beschikt over 192 fysieke kernen en 384 threads. Als daarop 48 VM's worden ingesteld met elk vier vCPU's, levert dat 48 × 4 = 192 toegewezen vCPU's op. Dit is een toewijzingsberekening en geen meting van de haalbare VM-prestaties.

A vCPU Dit is niet automatisch een exclusief gereserveerde fysieke kern. De hypervisor plant virtuele processors in op beschikbare logische processors; de daadwerkelijke uitvoering hangt af van welke VM's tegelijkertijd actief zijn en welke bronnen aan hen worden toegewezen. Ook komen de 384 threads van de processor niet overeen met 384 onafhankelijke fysieke kernen.

Voor de Overboeking Je moet eerst vaststellen welke gelijktijdige belasting je verwacht en welke prestaties een tarief belooft. Een groter aantal toegewezen vCPU’s kan werken bij piekbelastingen die zelden samenvallen, maar verhoogt het risico op wachttijden wanneer veel gasten tegelijkertijd rekenwerk uitvoeren. Toets deze aanname aan de hand van de daadwerkelijke klantenmix in plaats van alleen aan de hand van het aantal threads.

Vervolgens bereken je de geheugenbehoefte apart: tel het geplande RAM-geheugen van de VM’s bij elkaar op en houd daarbij ook rekening met de behoefte van de hypervisor en operationele reserves. Uit de CPU-berekening blijkt niet of de host voldoende RAM-geheugen ter beschikking stelt of dat de benodigde geheugenbandbreedte toereikend is wanneer meerdere gasten tegelijk actief zijn.

Hetzelfde geldt voor opslag en het netwerk. Veel VM’s kunnen tegelijkertijd toegang krijgen tot NVMe-schijven of gegevens overdragen; daarbij zijn naast de totale doorvoersnelheid ook I/O-latenties en piekbelastingen van belang. Houd daarom rekening met de aansluiting en de prestaties van de daadwerkelijk gebruikte schijven en netwerkkaarten.

Ten slotte heb je reserve nodig voor onderhoud en storingen. Als een overgebleven host na het uitvallen van een andere host extra VM’s moet overnemen, mag de reguliere bezetting niet al de daarvoor benodigde resources in beslag nemen. Het voorbeeld met 48 VM’s legt noch een veilige bezettingslimiet, noch een consolidatiepercentage vast; beide moeten worden beoordeeld op basis van de concrete omgeving.

Het platform en de virtualisatie voorbereiden

Begin de platformplanning met het specifieke CPU-model en de vraag of er één of twee sockets nodig zijn. De benodigde aantallen cores, RAM en I/O moeten samen passen bij het gewenste hostsysteem. Een P-model zoals de EPYC 9655P is ontworpen voor één socket en komt daarom niet in aanmerking voor een configuratie met twee sockets.

Controleer vervolgens de Goedkeuring door de fabrikant voor de CPU, het moederbord en het BIOS. Turin maakt weliswaar gebruik van de SP5-socket, maar een bestaande SP5-server ondersteunt niet alleen daarom elk 9005-model. Ook de voeding en het koelsysteem moeten geschikt zijn voor de gekozen CPU en de beoogde behuizing.

Plan de RAM-modules op basis van capaciteit, het aantal kanalen en de specificaties van de serverfabrikant. Daarnaast zijn de benodigde NVMe-schijven en netwerkkaarten van belang: niet alleen het aantal is doorslaggevend, maar ook welke sleuven of schijfcompartimenten in het betreffende systeem zijn aangesloten. Zo kun je vóór de bestelling nagaan of de gewenste combinatie op het platform überhaupt mogelijk is.

Voor vertrouwelijke VM's van klanten kan SEV-SNP de beveiliging van het VM-geheugen aanvullen met integriteitsmechanismen. Trusted I/O via TDISP is een andere mogelijke bouwsteen voor apparaattoegang. Of dit echter tot een bruikbaar aanbod leidt, hangt af van de combinatie van firmware, hypervisor, gastbesturingssysteem en eventueel apparaten.

Voordat je een product kiest, moet je bovendien nagaan hoe gasten worden ingesteld, gecertificeerd en beheerd, en welke beperkingen er gelden voor de aangeboden VM-functies. Een CPU-functie alleen garandeert noch de compatibiliteit van de gehele stack, noch biedt deze bescherming tegen alle aanvallen. Documenteer daarom de daadwerkelijk ondersteunde configuratie en houd deze bij bij updates.

De bedrijfsvoering meten en knelpunten opsporen

Om een vergelijking te maken met bestaande hostinghardware, heb je een duidelijk lastprofiel: ongeveer dezelfde VM-mix, vergelijkbare gegevensvolumes en vastgestelde soorten verzoeken. Leg de RAM-configuratie, opslag, netwerk en softwareconfiguratie vast. Alleen zo kan later worden vastgesteld of een afwijking eerder te maken heeft met de CPU of met een andere wijziging in het systeem.

Onderzoek meerdere belastingniveaus in plaats van slechts één piekwaarde. Registreer daarbij de doorvoer, de verdeling van de responstijden en de foutpercentages: een hogere doorvoer heeft weinig waarde voor een hostingaanbod als tegelijkertijd veel verzoeken traag verlopen of mislukken. Bepaal vooraf welke responstijden en foutpercentages voor de betreffende dienst acceptabel zijn.

Houd tegelijkertijd de RAM-bezetting en het geheugengedrag in de gaten, evenals de latentie en de bezetting van de opslag en het netwerk. Als de responstijden toenemen terwijl de CPU nog reserves vertoont, kan bijvoorbeeld een ander onderdeel van het platform de bottleneck vormen. Omgekeerd betekent een hoge CPU-bezetting op zich nog niet dat klanten een slechte gebruikerservaring hebben.

Als de responstijden van de VM opvallend zijn, controleer dan de veronderstelde gelijktijdigheid en de CPU-overboeking. Vergelijk vervolgens de daadwerkelijke RAM-configuratie, firmware- en hypervisor-instellingen met de geplande configuratie. Wijzig zo gericht mogelijk afzonderlijke factoren en herhaal hetzelfde belastingsniveau, zodat de oorzaak niet wordt verward met een gelijktijdig gewijzigde werklast.

Tot de dagelijkse bedrijfsvoering behoren bovendien beveiligingsbulletins, firmware-onderhoud, toegangscontroles en verifieerbare back-ups. AMD publiceert ook voor EPYC-processoren informatie over beveiligingslekken en maatregelen; beheerders moeten rekening houden met de bijbehorende updates van de serverfabrikant. Controleer na onderhoudswerkzaamheden opnieuw of de beveiligingsfuncties en aangeboden gastconfiguraties zoals bedoeld beschikbaar zijn.

Inkoop en rendabiliteit zijn doorslaggevend

Een aankoopbeslissing begint met de vraag of het bestaande platform nog steeds aan de eisen voldoet. Als de capaciteit en reserves toereikend zijn, kan het zinvol zijn om het platform in gebruik te houden. Voor een upgrade naar Turin moeten daarentegen het specifieke CPU-model, de firmware en de overige componenten door de serverfabrikant zijn goedgekeurd; het feit dat ze dezelfde SP5-socket hebben, volstaat niet als bewijs.

Vergelijk een 1P-host met een 2P-configuratie op basis van de totale behoefte aan cores, RAM en poorten. Twee sockets zijn niet alleen nodig vanwege een hoog beoogd aantal VM's. Omgekeerd kan een platform met één socket worden uitgesloten als de benodigde combinatie van geheugen en I/O niet in de gekozen server kan worden ondergebracht.

Bij veel onafhankelijke, gelijktijdig actieve taken kan de kerndichtheid een belangrijk selectiecriterium zijn. Voor latentiegevoelige toepassingen loont het daarentegen de moeite om ook modellen met een hogere kloksnelheid in de eigen toepassingsmix te onderzoeken. Bereken daarnaast het concrete licentiemodel: kosten per kern, socket of VM kunnen de economische volgorde van de platforms beïnvloeden.

De TDP Dit is geen meting van het stroomverbruik van een complete server. AMD geeft voor de EPYC 9755 en de 9965 elk een TDP van 500 watt op; hieruit kun je noch het stroomverbruik onder jouw belasting, noch de jaarlijkse energiekosten afleiden. RAM, schijven, netwerk en koeling maken deel uit van de systeembeschouwing.

Maak voor een energie- en kostenvergelijking een analyse van het totale systeem bij representatieve belastingsniveaus en houd daarbij rekening met de benodigde reserves. Je moet de aanschafkosten, softwarelicenties en exploitatiekosten over de geplande gebruiksduur met elkaar vergelijken. Zonder vergelijkbare bestaande gegevens kan noch een specifieke besparing, noch een betrouwbaar consolidatiepercentage worden beloofd.