...

AWS Cloud riceve il chip Trainium per l'apprendimento macchina

Amazon Servizi Web (AWS) ottiene un'altra innovazione oltre alle istanze macOS recentemente introdotte, basate su Mac minis. Si tratta del Trainiumun chip per la divisione di cloud computing di Amazon che è stato sviluppato esplicitamente per la formazione delle reti neurali. Come gli ASIC Inferentia e le CPU Graviton2, il Trainium è uno sviluppo interno.

I clienti dovrebbero poter utilizzare Trainium a partire dalla seconda metà del 2021. Secondo Amazon, lo sviluppo si è concentrato su un'ottima performance in relazione al prezzo. Secondo Amazon, le istanze dovrebbero essere inferiori a quelle con Habana Gaudi di Intel, che a loro volta hanno già un rapporto prezzo-prestazioni del 40% migliore rispetto al p4d.24xgrande configurazione con otto Nvidia A100.

Dettagli tecnici sconosciuti

Amazon non ha ancora pubblicato dettagli sulla tecnologia del chip Trainium e sulle sue prestazioni. L'unico fatto noto è che le istanze AWS avranno le più alte prestazioni in teraflop di tutte le istanze di machine learning dell'azienda.

È anche noto che il Cloud Framework standard che supportano Pytorch, MXNet e Tensorflow. Anche il kit di sviluppo software (SDK) chiamato Neuron è già conosciuto dagli ASIC Inferentia.

Trainium è disponibile nel servizio Sagemaker e nelle istanze EC2 (Elastic Compute Cloud). Gli algoritmi di apprendimento e i framework frequentemente utilizzati in AWS dovrebbero essere preinstallati.

Articoli attuali

Amministratrice in una sala server, oltre a occuparsi di tecnologia dei server
Server e macchine virtuali

CloudLinux OS 9: caratteristiche e limiti nell'hosting condiviso

CloudLinux OS 9 modernizza la base di sistema per l'hosting condiviso. Tuttavia, la licenza, l'edizione, i componenti installati e l'integrazione con il pannello di controllo rimangono fattori determinanti, in particolare per LVE, CageFS, Isolates e Shared Pro.

Rappresentazione concettuale dei canali di memoria tra il processore del server, la RAM, le macchine virtuali e lo storage.
Server e macchine virtuali

DDR5 nell'hosting: quando la nuova RAM per server fa davvero la differenza

La DDR5 può migliorare la larghezza di banda, l'espandibilità della memoria e gli accessi paralleli dei server moderni. Tuttavia, il fatto che le applicazioni di hosting ne traggano vantaggio dipende dalla CPU, dall'allocazione dei canali, dalla capacità, dal tipo di DIMM e dall'effettivo collo di bottiglia.