DDR5 i hosting: Hvornår giver nyt server-RAM virkelig en fordel?

DDR5 i serveren: Hvad der ændrer sig

DDR5 er den femte generation af Double Data Rate SDRAM og udgør i de nuværende serverplatforme grundlaget for højere mulige datahastigheder i hukommelsen. Oplysningen MT/s betyder megatransfers pr. sekund: Det beskriver dataoverførsler og kan derfor ikke blot sidestilles med en processorhastighed i MHz. Microns sammenligningstabel sammenligner DDR5-komponenter med 4.800 til 8.800 MT/s med DDR4 med op til 3.200 MT/s. Denne tabel udgør ikke en generel, aktuel øvre grænse for alle DDR5-produkter; på samme produktside angiver Micron nu DDR5-RDIMM'er med op til 9.200 MT/s.

Den angivne datahastighed på et DIMM-modul er dog ingen garanti for den senere drift på serveren. Processoren, chipsættet eller bundkortet samt antallet af moduler, der er installeret pr. kanal, er med til at bestemme, hvilken hastighed en platform anvender. Også serverproducentens specifikationer er afgørende. Ved valget er det derfor den godkendte platformskonfiguration, der tæller, og ikke alene modulbetegnelsen.

En vigtig arkitektonisk ændring er opdelingen af et DDR5-DIMM i to uafhængige 32-bit-underkanaler. Dette giver hukommelseskontrolleren mulighed for at fordele anmodninger mere detaljeret, hvilket er særligt fordelagtigt ved mange parallelle adgangsforespørgsler af forskellig størrelse. Virtualisering, databasetjenester eller et stort antal arbejdsprocesser kan skabe sådanne adgangs mønstre. Effekten afhænger dog af applikationens adfærd og serverens samlede hukommelseskapacitet.

To underkanaler fordobler hverken generelt en enkelt servers båndbredde eller et websteds hastighed. Antallet af CPU-hukommelseskanaler, deres udnyttelse og den tilgængelige regnekraft er stadig afgørende. Hvis f.eks. et lagringssystem, en enkelt CPU-model eller netværksforbindelsen udgør flaskehalsen, kan en bedre hukommelsesorganisering i praksis forblive stort set uden synlig effekt.

DDR5 sænker de nominelle spændinger for VDD og VDDQ fra 1,2 til 1,1 volt og flytter dele af Strømstyring med en PMIC på hukommelsesmodulet. Disse ændringer understøtter højere datahastigheder og en mere effektiv strømforsyning til hukommelsen. Dette betyder dog ikke, at der generelt kan loves strømbesparelser ved hosting: CPU, antallet og tætheden af DIMM'erne, køling, lagring, strømforsyninger og udnyttelsesgraden bestemmer ligeledes en servers energiforbrug.

Hvorfor server-RAM skal passe til platformen

DDR5 er ikke en eftermonteringsopgradering til en eksisterende DDR4-server. DDR4- og DDR5-DIMM’er er ikke stikkompatible og må ikke blandes. For at skifte kræves der en platform bestående af en DDR5-kompatibel processor, et passende bundkort og understøttet firmware. Inden en udvidelse skal man derfor følge serverproducentens dokumentation samt dennes godkendte hukommelseskonfiguration.

Modulklassen indgår også i denne kompatibilitetstest. En ECC-UDIMM er et ubufferet ECC-modul, mens RDIMM’er med register og LRDIMM’er med yderligere belastningsreduktion er designet til andre platform- og kapacitetskrav. Denne inddeling betyder ikke, at modulerne er indbyrdes udskiftelige: Hvilken klasse der må anvendes, fastlægges af hukommelseskontrolleren sammen med den konkrete servermodel. Blandede konfigurationer uden udtrykkelig godkendelse er derfor ikke en sikker løsning.

Betegnelsen „DDR5-server“ beskriver desuden ikke en ensartet ydeevneklasse. Intel angiver for eksempel for Xeon 6 i 6300-serien to DDR5-kanaler, en maksimal hukommelseshastighed på op til 4.800 MT/s og en konfiguration med op til to DIMM'er pr. kanal. Inden for samme Xeon-generation findes der samtidig platforme med betydeligt flere kanaler og andre understøttede hukommelseskonfigurationer. Hukommelseskapaciteten afhænger derfor af den konkrete CPU-model og ikke alene af generationsbetegnelsen.

Ansvaret for indkøbet ligger hos Producentgodkendelse mere praktisk end en sammenligning af isolerede datablade. Den viser, hvilke kapaciteter, DIMM-rækker, modulklasser og konfigurationsvarianter der er beregnet til systemet. En afvigende kombination kan føre til kompatibilitets- eller opstartsproblemer eller kun fungere med en lavere datahastighed. Firmwareversioner bør inddrages i denne kontrol, da hukommelseskontrolleren, firmwaren og DRAM'en samarbejder under hukommelsestræningen.

Når det drejer sig om en dedikeret server, er det derfor en god idé at stille spørgsmålet om platformen før spørgsmålet om gigabyte: Hvor mange kanaler stiller CPU’en til rådighed, hvilke DIMM’er understøtter bundkortet, og hvilket kapacitetsmål skal der nås? Først derefter kan man vurdere, om få store moduler, en jævn kanalfordeling eller en anden serverklasse udgør det rette grundlag for den planlagte belastning.

ECC, kapacitet og faktiske flaskehalse

DDR5 integreret On-Die ECC i DRAM-chipsene. Denne funktion understøtter den interne fejlhåndtering i det enkelte hukommelsesmodul. Den skal skelnes fra ECC-funktionen i en serverkonfiguration: Her skal hukommelsescontrolleren og egnede ECC-moduler arbejde sammen; disse moduler stiller ekstra databredde til rådighed til fejldetektion og -korrektion.

For produktive databaser, virtualiseringsværter eller andre systemer med høje krav til tilgængelighed bør man derfor kontrollere, om processoren, bundkortet og den anvendte DIMM-klasse understøtter en ECC-konfiguration. Det er ikke tilstrækkeligt blot at sige, at „DDR5 har ECC“. Det afgørende er den dokumenterede serverudrustning, herunder den hukommelsesklasse, som producenten har forudset, og den aktivt understøttede fejlhåndtering.

I forbindelse med resultatplanlægningen har Kapacitet frem for båndbredde har som regel forrang. Hvis arbejdshukommelsen ikke er tilstrækkelig til operativsystemet, databasebuffere, cacher og samtidigt aktive processer, er systemet nødt til at udlægge data eller indlæse dem igen fra lagringsmediet. En sådan paging forringer ydeevnen markant, fordi adgang til SSD eller netværkslagring reagerer væsentligt anderledes end adgang til RAM. Ekstra gigabyte kan derfor være mere effektivt end en højere MT/s-værdi.

En webshop med en for lille databasebuffer illustrerer forskellen: Mangler der cachekapacitet, kan data, der ofte bruges, ikke forblive i RAM’en, og antallet af adgangsforespørgsler til lagringsmediet stiger. Ved høj lagringslatens skal denne I/O-kæde først forbedres; hurtigere Server-RAM løser det ikke automatisk. Først når working set’et ligger i hukommelsen, og mange parallelle forespørgsler belaster hukommelsesbåndbredden, kan en DDR5-platform med større båndbredde være en ekstra hjælp.

Et tilfælde, hvor det er hukommelsesbåndbredden, der sætter grænser, ser anderledes ud: Mange tråde behandler store datamængder, som ikke forbliver fuldt ud i CPU-cachen. I sådanne tilfælde kan flere optagede hukommelseskanaler og en højere frigivet datahastighed blive relevante. Årsagen kan dog ikke udledes ud fra en enkelt udnyttelsesindikator. CPU-ventetider, paging, storage-I/O, parallelitet og adgangsmodeller skal betragtes samlet, før en hukommelsesopgradering kan begrundes.

Korrekt montering af hukommelseskanaler

En DDR5-server udnytter ikke sit hukommelsespotentiale ved at bruge så mange moduler som muligt på vilkårlig vis, men ved en kanalfordeling, der passer til CPU’en. Hver hukommelseskanal udgør en separat datavej mellem processoren og serverens RAM. Hvis der er ledige kanaler, eller hvis de er ujævnt besat, kan applikationen have mindre parallel hukommelsesgennemstrømning til rådighed, selvom den samlede installerede kapacitet umiddelbart virker tilstrækkelig.

For EPYC-9005-konfigurationer, der er optimeret til gennemstrømning, er ét DIMM pr. kanal et dokumenteret udgangspunkt, hvis man i første omgang ønsker at udnytte alle tilgængelige kanaler. AMD anbefaler, at der installeres mindst ét DIMM pr. tilgængelig DDR-kanal, hvis der er krav om høj gennemstrømning. Om denne konfiguration er optimal for en konkret hosting-arbejdsbelastning, afhænger desuden af kapacitetsbehovet, servermodellen, DIMM-typen og den godkendte datahastighed.

To DIMM’er pr. kanal kan øge den maksimale kapacitet, der kan installeres. Dette er især vigtigt, når der skal rummes mange virtuelle maskiner, store databasebuffere eller omfattende datamængder i hukommelsen. AMD påpeger i VDI-sammenhæng, at hukommelsesfrekvensen ved to DIMM'er pr. kanal i de fleste EPYC-9005-systemer kan falde på grund af strømforbruget. Dette er en platformafhængig mulighed og ikke en generel regel for DDR5.

Til planlægningen er det en god idé at følge en fast rækkefølge: Først tjekker du CPU, servermodel og de DIMM-klasser, der er godkendt af producenten. Derefter fastlægger du kapacitetsmålet ud fra applikationens krav. Derefter fordeler du moduler, der er så ens som muligt, jævnt på kanalerne, og til sidst verificerer du den datahastighed, der er godkendt til netop denne konfiguration, i platformdokumentationen.

Realistisk beregning af DDR5-båndbredde

Hukommelsesbåndbredden kan i første omgang beregnes som en teoretisk råværdi. DDR5-6400 betyder 6.400 millioner overførsler pr. sekund; pr. overførsel overføres der 8 byte på en 64-bit hukommelseskanal. Med tolv fuldt udnyttede kanaler ser beregningen således ud: 12 × 6.400 millioner overførsler/s × 8 byte = 614,4 GB/s rå båndbredde pr. sokkel. Egnede AMD EPYC 9005-modeller har tolv DDR5-kanaler og understøtter, afhængigt af modellen, op til DDR5-6400.

Denne værdi er udtrykkeligt ikke en benchmark og ikke en garanteret applikationsgennemstrømning. Den forudsætter, at alle kanaler kører med den antagne datahastighed, og at softwaren henter tilstrækkeligt mange data parallelt. Den faktisk konfigurerede hastighed kan være lavere på grund af CPU-varianten, modulerne eller en tættere bestykning. Heller ikke operativsystemet og applikationen genererer en uafbrudt datastrøm.

Adgangsmodellen er desuden afgørende. Høj båndbredde er især en fordel ved store datamængder, der behandles parallelt. Ved små, tilfældige adgangsforespørgsler kan latenstider, synkronisering og protokoloverhead veje tungere. Mange cache-hits i CPU-cacherne reducerer desuden antallet af adgangsforespørgsler til hovedhukommelsen. Derfor kan man ikke udlede nogen direkte konklusioner om sideindlæsningstid, databaseforespørgsler eller build-varighed ud fra den rå båndbredde.

Ved systemer med flere sokler og systemer med flere lagerområder gælder NUMA Desuden: En proces fungerer bedst med hukommelse, der er tildelt lokalt i dens CPU-område. Hvis den regelmæssigt tilgår hukommelse i et andet område, opstår der ekstra dataoverførsler og mulige ventetider. En god platform- og softwarekonfiguration udnytter derfor ikke kun mange kanaler, men tager også højde for placeringen af tråde og data.

Antallet af kanaler adskiller serverklasserne markant. Intels Xeon 6300-serie i entry-level-segmentet understøtter for eksempel to DDR5-kanaler, hukommelseshastigheder på op til 4.800 MT/s og op til to DIMM’er pr. kanal. Processorer fra andre Xeon 6-serier kan tilbyde betydeligt flere kanaler og højere datahastigheder. DDR5-betegnelsen alene er derfor ikke nok: Det er først og fremmest den konkrete CPU og konfigurationen, der afgør båndbreddepotentialet.

Hvilke arbejdsbelastninger drager fordel af DDR5

DDR5 er et fornuftigt redskab, når arbejdsbelastningsprofilen rent faktisk begrænser hukommelsesressourcerne. Her skal der skelnes mellem manglende kapacitet, behov for båndbredde og andre flaskehalse. Følgende klassificering hjælper med at aflede RAM-konfigurationen ud fra anvendelsesformålet i stedet for isoleret at vurdere en høj datahastighed som en ydeevneegenskab.

På en virtualiseringshost konkurrerer adskillige VM’er eller containere om arbejdshukommelse og adgang til lagringsmedier. Tilstrækkelig kapacitet forhindrer, at gæster eller værten er nødt til at udlægge data til langsommere lagringsmedier. En jævn kanalfordeling kan desuden bidrage til at håndtere parallelle adgangsforespørgsler. Det konkrete antal DIMM'er pr. kanal er dog stadig et valg, der afhænger af platformen; anbefalinger fra VDI-dokumentation kan ikke uden videre overføres til enhver hosting-workload.

Når det gælder databaser, objektcacher og søgetjenester, skal der være en passende Arbejdssæt i RAM har ofte højere prioritet end en højere overførselshastighed. Hvis data, der ofte bruges, ikke kan være i hukommelsen, skal applikationen gentagne gange hente dem fra SSD- eller netværkslagring. Først når kapaciteten er tilstrækkelig, og mange tråde behandler store datamængder parallelt, kan yderligere hukommelsesbåndbredde give en yderligere fordel.

Analyseprocesser, tekniske beregninger og build-servere kan i højere grad drage fordel af et stort antal kanaler, når store datamængder behandles parallelt. Intel tilskriver især højere DDR5-båndbredde til båndbreddebegrænsede AI- og HPC-scenarier. For en konkret anvendelse forbliver dette dog en hypotese, der skal undersøges: Cache-adfærd, CPU-andel, datalayout og I/O kan begrænse eller overskygge effekten.

For små webservere er DDR5 ofte ikke det første skridt i optimeringen. Hvis kapaciteten og den tilgængelige båndbredde er tilstrækkelig, ligger forsinkelserne snarere i CPU’en, database-I/O, lagring eller netværket. For virtuelle servere er det derfor en fordel at vurdere RAM-tildelingen og værtshardwarens egenskaber samlet. Oversigten Sådan forstår du forskellen mellem VPS og shared hosting forklarer sammenhængen mellem faste ressourcer og virtualisering.

Kontrol af DDR5-servere under drift

En pålidelig statusopgørelse starter med den fuldstændige hukommelseskonfiguration. Dokumentér CPU-model, servermodel, BIOS- eller BMC-firmwareversion, DIMM-type, modulkapacitet og antallet af DIMM’er pr. kanal. Tilføj den samlede kapacitet, som systemet har registreret, samt den faktisk forhandlede datahastighed. Producentens specifikationer er afgørende her, da serverplatforme kun understøtter bestemte kombinationer af DIMM-klasser og konfigurationer.

Angivelsen på hukommelsesmodulet er ikke en garanti for drift ved denne hastighed. Især ved tæt bestykning kan platformen vælge en lavere datahastighed. Notér derfor den planlagte og den faktiske konfiguration hver for sig: f.eks. de planlagte DDR5-6400-moduler i forhold til den hastighed, der genkendes i firmware-opsætningen eller operativsystemet. På den måde kan man senere spore, om en ændring i bestykningen eller firmwaren har påvirket konfigurationen.

Som en generel Diagnosemetoder Du bør ikke vurdere en enkelt udnyttelsesværdi isoleret. Overvåg i samme belastningsperiode hukommelsesudnyttelsen, paging- eller swap-aktiviteten, CPU-udnyttelsen og ventetiderne samt latenstiden og udnyttelsen af lagringsmediet. Paging kan tyde på, at kapaciteten er for begrænset; høje ventetider på lagringsenheden kan dog også bremse processerne. Først den tidsmæssige sammenhæng mellem reproducerbare måleværdier underbygger en hypotese om en flaskehals.

Selv en høj RAM-udnyttelse er ikke nødvendigvis et problem: Operativsystemer bruger ofte ledig hukommelse til filcacher. Omvendt er en lav CPU-udnyttelse ikke et tegn på en begrænsning i hukommelsesbåndbredden, da låsninger, netværksadgang eller I/O-ventetider ligeledes kan medføre, at kerner står ubenyttede hen. For at kunne foretage meningsfulde sammenligninger skal arbejdsbelastning, tidsperiode, softwareversion, konfiguration og målemetode dokumenteres uændret.

Sådan undgår du typiske DDR5-fejl

Den mest almindelige fejl i planlægningen er at bruge en modulbetegnelse som f.eks. DDR5-6400 svarer til serverens garanterede driftshastighed. Hvilken hastighed der rent faktisk er mulig, bestemmes samlet af processoren, bundkortet, firmwaren, hukommelsestætheden og antallet af DIMM’er pr. kanal. AMD beskriver for de fleste EPYC-9005-systemer i den undersøgte VDI-sammenhæng en mulig nedgang ved to DIMM'er pr. kanal; dette kan ikke generelt overføres til andre platforme.

Det er lige så risikabelt at vælge hukommelsesmoduler udelukkende på baggrund af kapacitet og generation. ECC-UDIMM, RDIMM og LRDIMM er forskellige DIMM-klasser og kan ikke udskiftes indbyrdes efter behag. Blandede kapaciteter, ranks eller datahastigheder kan desuden begrænse konfigurationen eller ligge uden for producentens godkendelse. Det er server- og platformproducentens kompatibilitets- og udstyrsspecifikationer, der er afgørende.

Også On-Die ECC fortjener en præcis klassificering. Fejlhåndteringen i DDR5-hukommelseschippen styrker komponentens interne dataintegritet. Den erstatter ikke automatisk en ECC-konfiguration, hvor en passende hukommelsescontroller samarbejder med ECC-kompatible moduler og deres ekstra databredde til fejldetektion og -korrektion. Hvis man forventer ECC til produktive systemer, bør man derfor kontrollere, om hele serverkonfigurationen eksplicit understøtter ECC.

Ydelsesdiagrammer kan kun sammenlignes, hvis CPU-model, antal kanaler, kapacitet, datahastighed, firmware, operativsystem og arbejdsbelastning oplyses. Uden disse oplysninger viser de højst et enkelt tilfælde, men ikke en pålidelig købsprognose. Undersøg samtidig andre mulige flaskehalse såsom regnekraft, masselagring og netværk; oversigten over relevant hardware til webhosting grupperer disse komponenter sammen.

DDR5 som en del af servervalget

For små hjemmesider og overskuelige applikationsservere er det vigtigere at have tilstrækkelig arbejdshukommelse end den højeste tilgængelige DDR5-datahastighed. Hvis kapaciteten og hukommelsesbåndbredden er tilstrækkelige, skyldes forsinkelser ofte snarere CPU, databaseadgang, SSD- eller netværks-I/O. DDR5 forbliver dermed en moderne platformfunktion, men er ikke i sig selv en grund til at forvente kortere responstider.

Ved virtualisering er det ikke kun kapaciteten, der tæller, men også en jævn udnyttelse af de tilgængelige hukommelseskanaler. Mange virtuelle maskiner eller containere genererer parallelle adgangsforespørgsler og konkurrerer om værtscomputerens RAM. Planlæg derfor de nødvendige gigabyte med en vis reserve, og kontroller derefter, om DIMM'erne udnytter kanalerne hensigtsmæssigt. For at opnå høj gennemstrømning anbefaler AMD i deres dokumentation mindst ét DIMM pr. tilgængelig DDR-kanal.

Databaser, cacher samt analyse- og build-arbejdsbelastninger kræver en separat vurdering af kapacitet og båndbredde. Hvis arbejdsmængden ikke kan rummes i RAM'en, har ekstra kapacitet forrang, da den kan reducere paging og genindlæsning. Hvis der er tilstrækkelig hukommelse til rådighed, og applikationen behandler mange data parallelt, bliver en CPU med flere kanaler, en frigivet høj datahastighed og en afbalanceret konfiguration vigtigere.

For en managed eller dedikeret server hører derfor Platformskompatibilitet, ECC-understøttelse, antal kanaler, DIMM-konfiguration og den konkrete arbejdsbelastning indgår i den samme beslutning. DDR5 skaber et større potentiale for båndbredde og hukommelsesudvidelse på moderne serverplatforme. Den praktiske nytte bestemmes dog af det samlede system: En passende, godkendt konfiguration er mere værdifuld end et DDR5-mærke uden henvisning til de faktiske flaskehalse.