DDR5 nell'hosting: quando la nuova RAM per server fa davvero la differenza

DDR5 nei server: cosa cambia

La DDR5 è la quinta generazione di SDRAM a doppia velocità di trasferimento dati (Double Data Rate) e costituisce, nelle attuali piattaforme server, la base per velocità di trasferimento dati più elevate. Il dato MT/s significa megatransfer al secondo: descrive i trasferimenti di dati e pertanto non è semplicemente equiparabile alla frequenza di clock del processore espressa in MHz. La tabella comparativa di Micron mette a confronto componenti DDR5 con velocità comprese tra 4.800 e 8.800 MT/s con quelli DDR4 che raggiungono un massimo di 3.200 MT/s. Questa tabella non rappresenta un limite massimo generale attuale per tutti i prodotti DDR5; sulla stessa pagina del prodotto, Micron elenca ora moduli RDIMM DDR5 con velocità fino a 9.200 MT/s.

La velocità di trasmissione stampata su un modulo DIMM non costituisce tuttavia una garanzia per il successivo funzionamento del server. Il processore, il chipset o la scheda madre e il numero di moduli installati per canale determinano, insieme ad altri fattori, quale velocità venga effettivamente utilizzata da una piattaforma. Anche le specifiche fornite dal produttore del server sono determinanti. Per la scelta è quindi determinante la configurazione della piattaforma approvata, non solo la denominazione del modulo.

Una modifica architettonica importante è la suddivisione di un modulo DIMM DDR5 in due sottocanali indipendenti a 32 bit. Ciò consente al controller di memoria di distribuire le richieste con maggiore precisione; ciò risulta particolarmente vantaggioso in presenza di numerosi accessi paralleli di dimensioni diverse. La virtualizzazione, i servizi di database o un numero elevato di worker possono generare tali modelli di accesso. L’effetto dipende tuttavia dal comportamento dell’applicazione e dalla configurazione completa delle connessioni di memoria del server.

Due sottocanali non raddoppiano in modo generalizzato né la larghezza di banda di un singolo server né la velocità di un sito web. Il numero dei canali di memoria della CPU, il loro utilizzo e la potenza di calcolo disponibile rimangono determinanti. Se, ad esempio, il collo di bottiglia è costituito da un sistema di archiviazione, da una singola CPU o dalla connessione di rete, una migliore organizzazione della memoria può rimanere in gran parte senza effetti visibili nell'uso quotidiano.

La DDR5 riduce le tensioni nominali di VDD e VDDQ da 1,2 a 1,1 volt e sposta parte del Gestione dell'alimentazione con un PMIC sul modulo di memoria. Queste modifiche consentono velocità di trasmissione dati più elevate e un’alimentazione più efficiente della memoria. Ciò non implica tuttavia una garanzia generale di risparmio energetico per l’hosting: anche la CPU, il numero e la densità dei moduli DIMM, il raffreddamento, lo storage, gli alimentatori e il carico di lavoro determinano il fabbisogno energetico di un server.

Perché la RAM del server deve essere compatibile con la piattaforma

La DDR5 non è un aggiornamento retroattivo per un server DDR4 esistente. I moduli DIMM DDR4 e DDR5 non sono compatibili a livello di connettore e non devono essere utilizzati insieme. Per il passaggio è necessaria una piattaforma composta da un processore compatibile con la DDR5, una scheda madre adeguata e un firmware che supporti tale tecnologia. Prima di procedere a un ampliamento, è quindi necessario fare riferimento alla documentazione del produttore del server e alla configurazione di memoria da lui approvata.

Anche la classe del modulo fa parte di questa verifica di compatibilità. Un ECC-UDIMM è un modulo ECC senza buffer, mentre gli RDIMM con registro e gli LRDIMM con ulteriore riduzione del carico sono progettati per soddisfare altre esigenze relative alla piattaforma e alla capacità. Da questa classificazione non deriva alcuna libera intercambiabilità: la classe che può essere utilizzata è determinata dal controller di memoria in base al modello specifico del server. Le configurazioni miste senza espressa autorizzazione non rappresentano quindi una soluzione sicura.

La denominazione „server DDR5“ non indica inoltre una classe di prestazioni uniforme. Intel, ad esempio, indica per lo Xeon 6 della serie 6300 due canali DDR5, una velocità massima di memoria fino a 4.800 MT/s e una configurazione con un massimo di due DIMM per canale. All’interno della stessa generazione di processori Xeon esistono però anche piattaforme con un numero nettamente superiore di canali e altre configurazioni di memoria supportate. Il potenziale di memoria dipende quindi dal modello specifico di CPU, non solo dal nome della generazione.

Per l'approvvigionamento è la Approvazione del produttore più pratico rispetto al confronto di schede tecniche isolate. Mostra quali capacità, ranghi DIMM, classi di moduli e varianti di configurazione sono previste per il sistema. Una combinazione diversa può causare problemi di compatibilità o di avvio, oppure consentire il funzionamento solo a una velocità di trasmissione dati inferiore. In questa verifica è opportuno includere anche le versioni del firmware, poiché il controller di memoria, il firmware e la DRAM interagiscono durante l’addestramento della memoria.

Nel caso di un server dedicato, vale quindi la pena porsi la questione della piattaforma prima di quella dei gigabyte: quanti canali mette a disposizione la CPU, quali DIMM accetta la scheda madre e quale obiettivo di capacità si vuole raggiungere? Solo in seguito sarà possibile valutare se pochi moduli di grandi dimensioni, una distribuzione uniforme dei canali o un’altra classe di server costituiscano la base adeguata per il carico previsto.

ECC, capacità e colli di bottiglia effettivi

DDR5 integrato ECC su chip nei chip DRAM. Questa funzione supporta la gestione interna degli errori del singolo modulo di memoria. Va distinta dalla funzione ECC di una configurazione server: in quest’ultimo caso, infatti, il controller di memoria e i moduli ECC adeguati devono operare in sinergia; tali moduli forniscono una larghezza di banda aggiuntiva per il rilevamento e la correzione degli errori.

Per i database produttivi, gli host di virtualizzazione o altri sistemi con elevati requisiti di disponibilità, è quindi opportuno verificare se il processore, la scheda madre e la classe di DIMM utilizzata supportino una configurazione ECC. L’affermazione „la DDR5 ha l’ECC“ non è sufficiente a tal fine. È determinante la dotazione documentata del server, compresa la classe di memoria prevista dal produttore e la gestione degli errori attivamente supportata.

Nella pianificazione delle prestazioni, si è proceduto a Capacità prima della larghezza di banda di norma ha la priorità. Se la memoria di lavoro non è sufficiente per il sistema operativo, i buffer del database, le cache e i processi attivi contemporaneamente, il sistema deve trasferire i dati in una memoria esterna o ricaricarli dallo storage. Questo tipo di paging peggiora notevolmente le prestazioni, poiché gli accessi all’SSD o allo storage di rete reagiscono in modo sostanzialmente diverso rispetto agli accessi alla RAM. Gigabyte aggiuntivi possono quindi rivelarsi più efficaci rispetto a un valore più elevato di MT/s.

Un negozio con un buffer del database troppo piccolo illustra la differenza: in assenza di capacità di cache, i dati utilizzati di frequente non possono rimanere nella RAM e gli accessi allo storage aumentano. In caso di elevata latenza dello storage, occorre innanzitutto migliorare questa catena di I/O; più veloce RAM del server non la risolve automaticamente. Solo quando il working set si trova in memoria e numerose query parallele occupano la larghezza di banda della memoria, una piattaforma DDR5 con una maggiore larghezza di banda può fornire un ulteriore aiuto.

Un caso in cui la larghezza di banda della memoria è limitante presenta caratteristiche diverse: molti thread elaborano grandi quantità di dati che non rimangono interamente nella cache della CPU. In questo caso, possono diventare rilevanti un maggior numero di canali di memoria occupati e una maggiore velocità di trasferimento dei dati. Tuttavia, la causa non può essere dedotta da un singolo indicatore di carico. I tempi di attesa della CPU, il paging, l’I/O di archiviazione, il parallelismo e i modelli di accesso devono essere considerati nel loro insieme prima di poter giustificare un potenziamento della memoria.

Allestimento corretto dei canali di memoria

Un server DDR5 non raggiunge il proprio potenziale di memoria utilizzando il maggior numero possibile di moduli disposti a caso, ma grazie a una configurazione dei canali adeguata alla CPU. Ogni canale di memoria costituisce un percorso dati a sé stante tra il processore e la RAM del server. Se alcuni canali rimangono liberi o sono configurati in modo non uniforme, l’applicazione potrebbe disporre di una larghezza di banda di memoria parallela inferiore, nonostante la capacità totale installata sembri sufficiente.

Per le configurazioni EPYC 9005 orientate alla produttività, è un modulo DIMM per canale un punto di partenza documentato, qualora si intenda utilizzare inizialmente tutti i canali disponibili. AMD raccomanda, in caso di elevati requisiti di throughput, di installare almeno un modulo DIMM per ogni canale DDR disponibile. L'ottimalità di questa configurazione per un determinato carico di lavoro di hosting dipende inoltre dal fabbisogno di capacità, dal modello del server, dal tipo di DIMM e dalla velocità di trasmissione dei dati autorizzata.

Due moduli DIMM per canale possono aumentare la capacità massima installabile. Ciò è importante, ad esempio, quando è necessario ospitare numerose macchine virtuali, buffer di database di grandi dimensioni o grandi quantità di dati in memoria. Nel contesto VDI, AMD sottolinea che, nella maggior parte dei sistemi EPYC 9005, la frequenza della memoria può diminuire con due moduli DIMM per canale a causa del consumo energetico. Si tratta di una possibilità specifica della piattaforma e non di una regola generale per la DDR5.

Per la progettazione è consigliabile seguire una sequenza prestabilita: innanzitutto verifica la CPU, il modello del server e le classi di DIMM approvate dal produttore. Successivamente, definisci l’obiettivo di capacità in base ai requisiti dell’applicazione. Successivamente, distribuisci i moduli, per quanto possibile simili tra loro, in modo uniforme sui canali e, infine, verifica la velocità di trasmissione approvata per quella specifica configurazione nella documentazione della piattaforma.

Calcolo realistico della larghezza di banda DDR5

La larghezza di banda della memoria può essere calcolata inizialmente come valore teorico grezzo. DDR5-6400 significa 6.400 milioni di trasferimenti al secondo; per ogni trasferimento vengono trasmessi 8 byte su un canale di memoria a 64 bit. Con dodici canali utilizzati appieno, il calcolo è il seguente: 12 × 6.400 milioni di trasferimenti/s × 8 byte = 614,4 GB/s di larghezza di banda lorda per socket. I modelli AMD EPYC 9005 compatibili offrono dodici canali DDR5 e, a seconda del modello, supportano fino a DDR5-6400.

Questo valore non costituisce in alcun modo un benchmark né una velocità effettiva garantita. Presuppone che tutti i canali operino alla velocità di trasmissione ipotizzata e che il software richieda una quantità sufficiente di dati in parallelo. La velocità effettivamente configurata può risultare inferiore a causa della variante della CPU, dei moduli o di una densità di componenti maggiore. Anche il sistema operativo e l’applicazione non generano un flusso di dati ininterrotto.

Anche il modello di accesso è determinante. Un’elevata larghezza di banda è utile soprattutto in presenza di grandi volumi di dati elaborati in parallelo. In caso di accessi sporadici e di piccole dimensioni, le latenze, la sincronizzazione e l’overhead del protocollo possono avere un peso maggiore. Inoltre, un numero elevato di hit nelle cache della CPU riduce il numero di accessi alla memoria principale. Pertanto, dalla larghezza di banda grezza non è possibile trarre conclusioni dirette sui tempi di caricamento delle pagine, sulle query al database o sulla durata della compilazione.

Nel caso di sistemi a più basamenti e di sistemi con più aree di stoccaggio, si ha NUMA Inoltre: un processo funziona in modo ottimale con la memoria assegnata localmente alla propria area della CPU. Se accede regolarmente alla memoria di un’altra area, si creano percorsi aggiuntivi e possibili tempi di attesa. Una buona configurazione della piattaforma e del software non solo utilizza molti canali, ma tiene conto anche della collocazione dei thread e dei dati.

Il numero di canali distingue nettamente le diverse classi di server. La serie entry-level Xeon 6300 di Intel, ad esempio, supporta due canali DDR5, velocità di memoria fino a 4.800 MT/s e fino a due moduli DIMM per canale. I processori di altre serie Xeon 6 sono in grado di fornire un numero di canali notevolmente superiore e velocità di trasmissione dati più elevate. La sola denominazione «DDR5» non è quindi sufficiente: per il potenziale di larghezza di banda contano soprattutto la CPU specifica e la configurazione della scheda.

Quali carichi di lavoro traggono vantaggio dalla DDR5

La DDR5 rappresenta una leva utile quando il profilo del carico di lavoro limita effettivamente le risorse di memoria. In questo contesto, è necessario distinguere tra carenza di capacità, fabbisogno di larghezza di banda e altri colli di bottiglia. La seguente classificazione aiuta a determinare la configurazione della RAM in base allo scopo di utilizzo, anziché valutare isolatamente l’elevata velocità di trasferimento dati come caratteristica prestazionale.

Su un host di virtualizzazione, numerose macchine virtuali o container competono per la memoria di lavoro e l’accesso alla memoria. Una capacità sufficiente impedisce che gli ospiti o l’host debbano trasferire la memoria su supporti più lenti. Un'occupazione uniforme dei canali può inoltre aiutare a gestire gli accessi paralleli. Il numero specifico di DIMM per canale rimane tuttavia una scelta legata alla piattaforma; le raccomandazioni contenute nella documentazione VDI non possono essere applicate tali e quali a ogni carico di lavoro di hosting.

Per quanto riguarda i database, le cache degli oggetti e i servizi di ricerca, è necessario un Set di lavoro nella RAM ha spesso la precedenza su una velocità di trasferimento più elevata. Se i dati utilizzati di frequente non rientrano nella memoria, l'applicazione deve caricarli ripetutamente dall'SSD o dallo storage di rete. Solo quando la capacità è sufficiente e molti thread elaborano in parallelo grandi blocchi di dati, una maggiore larghezza di banda della memoria può apportare un ulteriore vantaggio.

I processi di analisi, i calcoli tecnici e i server di build possono trarre maggior vantaggio da un numero elevato di canali quando si elaborano grandi quantità di dati in parallelo. Intel attribuisce una maggiore larghezza di banda DDR5 in particolare agli scenari di IA e HPC in cui la larghezza di banda è limitata. Per un'applicazione concreta, tuttavia, ciò rimane un'ipotesi da verificare: il comportamento della cache, la quota della CPU, il layout dei dati e l'I/O possono limitare o sovrastare l'effetto.

Nel caso di piccoli server web, la DDR5 spesso non rappresenta la prima misura di ottimizzazione. Se la capacità e la larghezza di banda disponibile sono sufficienti, i ritardi sono da ricercarsi piuttosto nella CPU, nell’I/O del database, nello storage o nella rete. Per i server virtuali è quindi utile valutare congiuntamente l’allocazione della RAM e le caratteristiche dell’hardware host. Panoramica Capire la differenza tra VPS e hosting condiviso illustra il contesto delle risorse fisse e della virtualizzazione.

Verifica del funzionamento dei server DDR5

Un inventario affidabile inizia con la configurazione completa della memoria. Documenta il modello della CPU, il modello del server, la versione del firmware del BIOS o del BMC, il tipo di DIMM, la capacità dei moduli e il numero di DIMM per canale. Aggiungi la capacità totale rilevata dal sistema e la velocità di trasmissione effettivamente negoziata. Le specifiche del produttore sono fondamentali in questo contesto, poiché le piattaforme server supportano classi di DIMM e configurazioni solo in determinate combinazioni.

L'indicazione riportata sul modulo di memoria non costituisce una garanzia di funzionamento a tale velocità. Soprattutto in caso di densità di montaggio elevata, la piattaforma potrebbe selezionare una velocità di trasmissione dati inferiore. Si raccomanda pertanto di registrare separatamente la configurazione prevista e quella effettiva: ad esempio, i moduli DDR5-6400 pianificati rispetto alla velocità rilevata nella configurazione del firmware o nel sistema operativo. In questo modo sarà possibile verificare in seguito se una modifica alla configurazione hardware o al firmware ha influito sulla configurazione.

Come regola generale Metodologia diagnostica Non dovresti valutare un singolo valore di utilizzo in modo isolato. Osserva, nello stesso intervallo di tempo, l'utilizzo della memoria, l'attività di paging o swap, l'utilizzo della CPU e i tempi di attesa, nonché la latenza e l'utilizzo dello storage. Il paging può suggerire che la causa sia una capacità insufficiente; tuttavia, anche i tempi di attesa elevati dello storage possono rallentare i processi. Solo la correlazione temporale tra valori di misurazione riproducibili avvalora l’ipotesi di un collo di bottiglia.

Anche un elevato utilizzo della RAM non è automaticamente un problema: i sistemi operativi utilizzano spesso la memoria libera per le cache dei file. Al contrario, un basso utilizzo della CPU non dimostra la presenza di un limite di larghezza di banda della memoria, poiché anche i blocchi, gli accessi di rete o i tempi di attesa I/O possono lasciare i core inattivi. Per ottenere confronti significativi, il carico di lavoro, il periodo di tempo, la versione del software, la configurazione e il metodo di misurazione devono essere documentati in modo coerente.

Come evitare gli errori tipici della DDR5

L'errore di progettazione più comune consiste nell'utilizzare una denominazione del modulo come DDR5-6400 equivalente alla frequenza operativa garantita del server. La frequenza effettivamente raggiungibile è determinata congiuntamente dal processore, dalla scheda madre, dal firmware, dalla densità di memoria e dal numero di DIMM per canale. AMD descrive, per la maggior parte dei sistemi EPYC 9005 nel contesto VDI esaminato, una possibile riduzione con due DIMM per canale; ciò non può essere generalizzato ad altre piattaforme.

È altrettanto rischioso scegliere i moduli di memoria solo in base alla capacità e alla generazione. ECC-UDIMM, RDIMM e LRDIMM sono classi diverse di DIMM e non sono intercambiabili a piacimento. Inoltre, capacità, rank o velocità di trasmissione misti possono limitare la configurazione o non rientrare nelle specifiche approvate dal produttore. Restano determinanti le specifiche di compatibilità e di configurazione fornite dal produttore del server e della piattaforma.

Anche ECC su chip merita una definizione precisa. La gestione degli errori nel chip di memoria DDR5 rafforza l’integrità interna dei dati del componente. Tuttavia, non sostituisce automaticamente una configurazione ECC, in cui un controller di memoria adeguato collabora con moduli compatibili con ECC e la loro larghezza di banda aggiuntiva per il rilevamento e la correzione degli errori. Chi si aspetta l’ECC per i sistemi produttivi dovrebbe quindi verificare l’effettiva compatibilità ECC dell’intera configurazione del server.

I grafici delle prestazioni sono comparabili solo se vengono specificati il modello della CPU, il numero di canali, la capacità, la velocità di trasmissione dati, il firmware, il sistema operativo e il carico di lavoro. Senza queste informazioni, mostrano al massimo un caso isolato, ma non costituiscono una previsione affidabile ai fini dell’acquisto. Verifica parallelamente altri possibili fattori limitanti quali la potenza di calcolo, la memoria di massa e la rete; la panoramica su hardware di web hosting pertinente classifica questi componenti in un'unica categoria.

La DDR5 come fattore determinante nella scelta del server

Per i siti web di piccole dimensioni e i server applicativi di dimensioni contenute, una memoria di lavoro adeguatamente dimensionata è più importante della massima velocità di trasferimento dati DDR5 disponibile. Se la capacità e la larghezza di banda della memoria sono sufficienti, i ritardi sono spesso dovuti piuttosto alla CPU, agli accessi al database, all’I/O dell’SSD o alla rete. La DDR5 rimane quindi una caratteristica al passo con i tempi della piattaforma, ma non è un motivo isolato per prevedere tempi di risposta più brevi.

Nella virtualizzazione, oltre alla capacità, è importante anche l’utilizzo uniforme dei canali di memoria disponibili. Molte macchine virtuali o container generano accessi paralleli e competono per la RAM dell’host. Pertanto, pianifica i gigabyte necessari tenendo conto delle riserve e verifica poi se i moduli DIMM occupano i canali in modo ottimale. Per garantire un throughput elevato, la documentazione AMD raccomanda almeno un modulo DIMM per ogni canale DDR disponibile.

I database, le cache e i carichi di lavoro di analisi e compilazione richiedono una valutazione separata della capacità e della larghezza di banda. Se il working set non rientra nella RAM, la capacità aggiuntiva ha la priorità, poiché può ridurre il paging e il ricaricamento. Se la memoria disponibile è sufficiente e l’applicazione elabora molti dati in parallelo, diventano più importanti una CPU con un numero maggiore di canali, un’elevata velocità di trasmissione dei dati e una configurazione bilanciata.

Per un server gestito o dedicato sono quindi necessari Compatibilità con la piattaforma, la compatibilità ECC, il numero di canali, la configurazione delle DIMM e il carico di lavoro specifico influiscono sulla stessa decisione. La DDR5 offre un maggiore potenziale in termini di larghezza di banda ed espansione della memoria sulle moderne piattaforme server. Il vantaggio pratico, tuttavia, è determinato dal sistema nel suo complesso: una configurazione adeguata e approvata è più preziosa di un’etichetta DDR5 senza alcun riferimento ai colli di bottiglia effettivi.