Intel Sierra Forest: core Xeon-E per carichi di lavoro paralleli sui server

Sierra Forest all’interno della famiglia Xeon

Intel Sierra Forest è un nome in codice che indica i processori per server Xeon 6 con Nuclei efficienti (E-Cores). L'elenco dei prodotti analizzato comprende modelli con un numero di core compreso tra 64 e 144, tra cui i processori della serie 6700E. Intel destina questa versione, tra l'altro, alle applicazioni cloud e scale-out, in cui è possibile elaborare molte attività in parallelo.

Per la scelta di una CPU per server, il nome in codice rappresenta quindi un punto di partenza, ma non una specifica completa. I modelli della stessa serie si differenziano, tra l’altro, per il numero di core, la frequenza di clock e il design termico. La combinazione più adatta dipende dal carico di lavoro che un’applicazione è in grado di gestire contemporaneamente e dai limiti imposti dal sistema server in questione.

Granite Rapids, invece, indica un’altra linea di prodotti Xeon 6 con core ad alte prestazioni (P-Core). Rappresenta un’opzione da prendere in considerazione quando le prestazioni dei singoli core o determinate estensioni del set di istruzioni sono particolarmente importanti. Tuttavia, la classificazione come P-Core o E-Core di per sé non fornisce ancora indicazioni concrete per un’applicazione specifica.

Clearwater Forest va considerata come la generazione successiva di E-Core e Xeon 6+, distinta da Sierra Forest. L'indicazione relativa alla famiglia Xeon, che prevede fino a 288 E-Core, non costituisce una specifica generale per Sierra Forest. Chi confronta le offerte dovrebbe quindi verificare la denominazione specifica del modello e le relative caratteristiche tecniche, anziché basarsi su un valore massimo appartenente a un'altra generazione.

Numerosi E-Core per l'elaborazione parallela

Sierra Forest utilizza un’architettura modulare multi-chip: i moduli di calcolo e I/O sono integrati insieme nel pacchetto del processore. I moduli di calcolo forniscono i core per l’elaborazione; il lato I/O garantisce le connessioni con la piattaforma. Per l’applicazione, ciò che conta non è tanto il numero dei moduli, quanto piuttosto la possibilità di distribuire il loro carico di lavoro sui core disponibili.

Molti core possono elaborare contemporaneamente, ad esempio, numerose richieste web indipendenti o attività in background. Il Produttività descrive la quantità di lavoro svolto in un determinato intervallo di tempo, ad esempio il numero di richieste evase con successo al secondo. Se questo valore aumenta, ciò non significa automaticamente che ogni singola richiesta riceva una risposta più rapida.

In questo contesto, la latenza è determinante: indica il tempo necessario per una singola richiesta o operazione. Se più servizi attendono lo stesso database o una memoria sovraccarica, i core CPU aggiuntivi possono sì assumere ulteriore carico di lavoro, ma non sono in grado di eliminare da soli il tempo di attesa. Proprio in caso di picchi di carico, occorre quindi considerare non solo la velocità di trasmissione, ma anche il tempo di risposta.

All'indirizzo Scale-out il lavoro viene distribuito su più istanze o server. In questo modo, diverse piccole istanze di servizio possono funzionare in parallelo, a condizione che siano sufficientemente indipendenti e che le risorse condivise non costituiscano un collo di bottiglia. Un singolo processo seriale, invece, non diventa automaticamente più veloce grazie alla presenza di core aggiuntivi inutilizzati; le sue fasi successive rimangono interdipendenti.

La distribuzione tra i confini dei processi o tra i server non è equiparabile alla struttura di una CPU. L'articolo complementare su Swarm computing e collaborazione decentralizzata affronta un altro concetto di sistemi distribuiti. Per Sierra Forest è fondamentale che il software in questione generi un numero sufficiente di attività eseguibili in parallelo per i core disponibili.

E-Core, P-Core e compatibilità software

Sierra Forest e la versione P-Core dello Xeon 6 appartengono al mondo x86. Ciò semplifica la classificazione di base del software esistente, ma non significa che entrambi i tipi di processore supportino tutte le estensioni allo stesso modo o raggiungano le stesse prestazioni con la stessa applicazione. Per una migrazione è quindi necessario verificare sia i programmi eseguibili sia i loro requisiti effettivi.

Intel indica, tra le altre cose, per i core Xeon 6-E AVX2 e VNNI. Tali estensioni del set di istruzioni possono supportare determinati calcoli; il fatto che un’applicazione le utilizzi e ne tragga vantaggio dipende dal suo codice e dalle sue librerie. La loro semplice presenza non consente quindi di trarre conclusioni sulla velocità di elaborazione raggiungibile da un servizio.

Nel caso dello Xeon 6 è AVX-512 secondo Intel, riservata ai processori P-Core. Se un programma richiede obbligatoriamente questa estensione, ciò costituisce un criterio di compatibilità immediato che ne impedisce l’esecuzione senza modifiche su Sierra Forest. Se invece utilizza AVX-512 solo in modo opzionale, potrebbe essere in grado di funzionare con un altro percorso di codice; tuttavia, le relative prestazioni devono essere valutate separatamente.

Prima di passare a una nuova piattaforma, verifica quindi non solo l’applicazione principale, ma anche il suo ambiente di esecuzione e le librerie ad alta intensità di calcolo per quanto riguarda i requisiti della CPU. A tal fine, la documentazione del produttore e le versioni del software effettivamente utilizzate sono più importanti dell’ipotesi che ogni pacchetto x86 offra le stesse funzionalità su ogni variante di Xeon.

Il test di compatibilità, inoltre, indica solo se il software è in grado di funzionare. Solo un confronto con l'applicazione reale e con un'infrastruttura server adeguata può dimostrare se una configurazione E-Core sia in grado di svolgere un carico di lavoro sufficiente, tenuto conto dell'obiettivo di latenza prestabilito. Per attività fortemente seriali o che fanno un uso intensivo di AVX-512, un sistema P-Core rappresenta quindi un importante termine di paragone, ma non è automaticamente il vincitore.

Confronta modelli, memorie e connessioni

Nel caso di Sierra Forest, il numero di modello è più indicativo rispetto al solo numero di core. Per una preselezione, ad esempio, si possono prendere in considerazione i modelli 6710E, 6756E, 6766E e 6780E. Oltre al numero di core e di thread, confronta anche la frequenza di base e quella turbo, nonché il rispettivo profilo prestazionale: lo stesso numero di core non indica di per sé quanto margine termico debba garantire un server.

Lo Xeon 6780E dispone di 144 core e 144 thread. Intel dichiara per questo processore una frequenza di base di 2,2 GHz e fino a 3,0 GHz in modalità Turbo; il TDP di 330 W si riferisce al profilo server specificato. La frequenza Turbo massima non è un valore garantito in modo continuativo per tutti i core e in ogni situazione operativa. Per il modello 6766E, così come per i modelli 6710E e 6756E, ti consigliamo di verificare separatamente i dati relativi alla frequenza e al profilo nel confronto tra prodotti prima di effettuare la scelta.

La differenza tra i due modelli a 144 core riguarda quindi anche la progettazione del sistema di raffreddamento e dell’alimentazione. Tuttavia, dai soli valori TDP non è possibile dedurre né il consumo effettivo né le prestazioni di un’applicazione. Ciò che conta è quale modello riesca a svolgere il lavoro richiesto entro i limiti di prestazione previsti e con il carico effettivo.

Per il modello 6780E, Intel ne indica otto Canali di memoria, massimo DDR5-6400, fino a 88 linee PCIe 5.0 e supporto per sistemi a due socket. Per verificare quale velocità di memoria sia effettivamente supportata con la configurazione DIMM prevista, è necessario controllare le specifiche del sistema server specifico e dei moduli di memoria scelti.

Dimensionamento dell'hosting e delle macchine virtuali

Molte istanze web indipendenti possono sfruttare l’elevato numero di core se vengono effettivamente elaborate un numero sufficiente di richieste contemporaneamente. Ai fini della pianificazione, tuttavia, non conta solo il numero di istanze installate, ma il numero di servizi attivi contemporaneamente con un obiettivo di tempo di risposta prestabilito. Un server può mostrare capacità CPU libera e tuttavia non raggiungere l’obiettivo se le richieste sono in attesa di memoria o di spazio di archiviazione.

Stima quindi innanzitutto la memoria di lavoro per ogni istanza, comprese l’applicazione, la cache e la parte relativa al sistema operativo. Tieni poi conto dei picchi di carico e delle riserve necessarie per la manutenzione o per l’eventuale guasto di un host. Se la capacità della memoria di lavoro dovesse esaurirsi prima della potenza di calcolo, un numero maggiore di core da solo non sarà sufficiente per ottenere il consolidamento desiderato.

Anche l’I/O di archiviazione influisce sulla densità raggiungibile: quando molte istanze leggono, scrivono o generano log contemporaneamente, possono formarsi code. Pertanto, in condizioni di concorrenza realistiche, verifica non solo la velocità media di trasmissione, ma anche le richieste più lente. Un obiettivo p99, ad esempio, descrive il tempo di risposta che almeno il 99% delle richieste considerate dovrebbe rispettare.

Nel caso delle macchine virtuali, una risorsa assegnata vCPU Innanzitutto, si tratta di un'unità di esecuzione virtuale, non di una prenotazione automatica di un core fisico. Se più macchine virtuali condividono le stesse risorse, il tempo di calcolo disponibile e i tempi di risposta dipendono anche dalla loro attività simultanea e dalle impostazioni dell'hypervisor. Pianifica quindi le prenotazioni e l'overbooking in base alle esigenze dei singoli servizi.

Per un server a due socket con processore 6780E, dovresti inoltre considerare il Topologia NUMA Verifica: gli accessi alla memoria possono dipendere dal socket a cui è collegata la memoria e dalla posizione in cui viene eseguita la VM. Verifica la configurazione e il posizionamento della memoria nell’hypervisor e confronta gli accessi locali con quelli remoti sotto carico. Il supporto a due socket di Intel non sostituisce la certificazione del server e dell’hypervisor specifici per la CPU selezionata.

Confronto pratico dei profili di carico

La pianificazione di una misurazione inizia con una decisione concreta: quanti worker in coda o richieste di rete è in grado di elaborare la nuova configurazione, mantenendo la stessa qualità del servizio, rispetto al server esistente o a un sistema P-Core? A tal fine, definisci la stessa applicazione, lo stesso volume di dati e la stessa concorrenza per entrambi i candidati. La procedura seguente è una nostra raccomandazione metodologica, non una procedura di test documentata da Intel né la descrizione di un test effettivamente eseguito.

Per i worker, il test dovrebbe includere un numero sufficiente di attività indipendenti affinché i core aggiuntivi possano essere effettivamente utilizzati. Registra le attività completate per intervallo di tempo e il tempo necessario al loro completamento; verifica inoltre se il database, lo storage o le interfacce esterne limitano il processo. Un singolo processo seriale non è una base adeguata per la valutazione di una piattaforma progettata per il parallelismo.

Per un confronto autonomo dei servizi di rete, documenta anche la dimensione dei pacchetti, la crittografia, le schede di rete e i driver. Se l’applicazione deve utilizzare acceleratori, verifica la loro disponibilità per la specifica configurazione della CPU e del server, nonché il supporto da parte del software utilizzato. Confronta quindi, a parità di carico, se il loro utilizzo apporta un vantaggio, anziché dedurlo dalle specifiche tecniche.

Imposta in anticipo un Obiettivo di latenza p95 o p99 Mantieni costante il carico e aumentalo gradualmente, in fasi ben definite. Registra il throughput e il tasso di errore insieme alla latenza: un numero maggiore di richieste al secondo non costituisce un risultato equivalente se viene superato il tempo di risposta concordato o se aumentano gli errori. Ripeti l'analisi anche per i picchi di carico previsti.

Misura la potenza elettrica del Sistema complessivo sia a vuoto che a carico parziale e di picco. Annotare la configurazione hardware, il firmware, il profilo prestazionale, le versioni software e la durata della misurazione, in modo che eventuali differenze non vengano attribuite per errore esclusivamente alla CPU. Dal lavoro svolto e dall’energia necessaria per svolgerlo è quindi possibile confrontare il lavoro per unità di energia, a condizione che la qualità del servizio rimanga invariata.

Valutare il fabbisogno energetico e i costi

Il valore indicato TDP Si tratta di un valore indicativo relativo al processore, non di una misurazione complessiva del server. Per lo Xeon 6780E, Intel indica un TDP di 330 watt per il profilo server specificato. Da questo dato non è possibile dedurre direttamente né il fabbisogno energetico effettivo a un determinato carico, né i costi dell’elettricità.

Per un confronto attendibile, occorre considerare il consumo energetico dell'intero sistema, compresi la memoria, le unità disco e le schede di rete. Tale valore varia a seconda del carico. È quindi necessario effettuare la misurazione in un arco di tempo rappresentativo, tenendo conto sia del funzionamento a vuoto che dei carichi tipici e elevati; un singolo valore di picco descrive il funzionamento solo in modo incompleto.

Il sito Lavoro per unità di energia può essere espresso, ad esempio, come il numero di richieste completate con successo diviso per il fabbisogno energetico misurato. A tal fine, si devono confrontare solo attività che soddisfano gli stessi requisiti: una maggiore produttività ha scarso valore se il tasso di errore o i tempi di risposta superano l’obiettivo concordato. Anche il volume dei dati e l’andamento del carico devono essere comparabili.

Per garantire la redditività, nemmeno questo rapporto è sufficiente. Occorre calcolare i costi dell’elettricità e del raffreddamento insieme a quelli relativi allo spazio nel rack, all’acquisto dell’hardware, alla manutenzione e alle licenze software. Soprattutto nei modelli di licenza basati sul numero di core, un numero elevato di core può incidere sul conto; sono determinanti le condizioni contrattuali concrete, non una regola di licenza ipotetica.

Il consolidamento comporta inoltre un onere legato alla migrazione: occorre verificare le applicazioni, trasferire i dati e adeguare le procedure operative. Confronta questi costi una tantum e i possibili rischi di interruzione del servizio con i costi correnti. Il mantenimento in funzione dei server esistenti rimane un’opzione da prendere seriamente in considerazione se la loro capacità utile e i costi operativi sono sufficienti per il periodo previsto.

Verificare il funzionamento, il firmware e eventuali colli di bottiglia

Se il Latenza di coda, inizia dall'ora e dalla catena di richieste interessata. Verifica se, contemporaneamente, aumentano il tasso di errore, le code o il numero di richieste parallele. Una latenza p99 elevata significa che le richieste più lente potrebbero non rientrare nei tempi previsti; la media da sola potrebbe non evidenziare questo problema.

Esamina quindi il carico della CPU e la distribuzione del lavoro. Un carico complessivamente basso non esclude la presenza di colli di bottiglia a livello di singoli thread. Se, al contrario, molti core sono occupati, verifica se vi siano attività sufficientemente indipendenti o se la sincronizzazione e i tempi di attesa limitino la produttività aggiuntiva.

In un sistema a due socket, la Posizione di stoccaggio Per la ricerca dei guasti: controlla l'assegnazione NUMA dei processi o delle macchine virtuali e della loro memoria. Lo Xeon 6780E supporta i sistemi a due socket; tuttavia, la convenienza della specifica collocazione per un'applicazione dipende anche dal server e dalle impostazioni dell'hypervisor.

Se la causa rimane sconosciuta, monitora l’I/O della memoria e dello storage, nonché i percorsi di rete e i servizi esterni. Le risposte ritardate del database o le connessioni di rete sovraccariche possono prolungare le richieste senza che la CPU del server sia costantemente a pieno carico. Confronta i valori misurati nel tempo con le richieste lente, invece di attribuire frettolosamente la causa al numero di core.

Prima dell'acquisto e dell'implementazione, verifica l'elenco delle CPU approvate dal produttore del server, il socket, la versione del BIOS richiesta e il supporto da parte dell'hypervisor. Intel specifica LGA4710-2 per la serie 6700E e LGA7529-1 per la serie 6900P; da ciò non è possibile dedurre un’intercambiabilità generale tra le serie Xeon.

Consulta inoltre l'aggiornamento delle specifiche relativo alla serie di processori utilizzata. Verifica le errata corrige e i chiarimenti pertinenti in relazione allo stepping specifico e alla versione del firmware e, se del caso, tieni conto delle soluzioni documentate. In questo modo, l'approvazione dell'intero sistema viene integrata con le limitazioni tecniche note.

Scegliere la piattaforma server più adatta

La scelta parte dall’applicazione, non dal valore più alto riportato nella scheda tecnica. Intel posiziona i core Xeon 6-E come soluzioni per un’elevata densità di core e un throughput parallelo per le attività, mentre i core P sono pensati per garantire elevate prestazioni per singolo core. Ciò non basta però a determinare quale piattaforma soddisfi i tuoi obiettivi in termini di latenza e le tue esigenze di capacità.

Usa la tabella come punto di partenza per un Confronto a parità di qualità del servizio, non come classifica delle prestazioni. La seguente metodologia di selezione è una nostra raccomandazione e non una procedura di test documentata da Intel: confronta la piattaforma esistente, una configurazione Sierra-Forest adeguata e, se del caso, un sistema P-Core con gli stessi requisiti in termini di tempo di risposta, tasso di errore e volume di dati. Documenta la rispettiva configurazione e determina il carico di lavoro utilizzabile dell’intero sistema.

Anche Server basati su ARM rappresentano una possibile opzione di confronto. A tal fine, il sistema operativo, le applicazioni e i pacchetti software necessari devono essere compatibili con l’architettura; inoltre, il porting e il funzionamento potrebbero richiedere alcune modifiche. La denominazione dell’architettura di per sé non comporta un vantaggio generale in termini di efficienza, che dovrebbe essere verificato a parità di condizioni di carico.

Scegli infine la piattaforma che offra la capacità richiesta con una riserva sufficiente e le condizioni operative adeguate, al costo complessivo più vantaggioso. Tieni conto della migrazione e delle licenze e, se necessario, valuta i rischi e lo spazio richiesto. Un numero maggiore di core è un criterio di selezione, ma non sostituisce né i test applicativi né l’analisi dei costi.