Amazon Servizi Web (AWS) ottiene un'altra innovazione oltre alle istanze macOS recentemente introdotte, basate su Mac minis. Si tratta del Trainiumun chip per la divisione di cloud computing di Amazon che è stato sviluppato esplicitamente per la formazione delle reti neurali. Come gli ASIC Inferentia e le CPU Graviton2, il Trainium è uno sviluppo interno.
I clienti dovrebbero poter utilizzare Trainium a partire dalla seconda metà del 2021. Secondo Amazon, lo sviluppo si è concentrato su un'ottima performance in relazione al prezzo. Secondo Amazon, le istanze dovrebbero essere inferiori a quelle con Habana Gaudi di Intel, che a loro volta hanno già un rapporto prezzo-prestazioni del 40% migliore rispetto al p4d.24xgrande configurazione con otto Nvidia A100.
Dettagli tecnici sconosciuti
Amazon non ha ancora pubblicato dettagli sulla tecnologia del chip Trainium e sulle sue prestazioni. L'unico fatto noto è che le istanze AWS avranno le più alte prestazioni in teraflop di tutte le istanze di machine learning dell'azienda.
È anche noto che il Cloud Framework standard che supportano Pytorch, MXNet e Tensorflow. Anche il kit di sviluppo software (SDK) chiamato Neuron è già conosciuto dagli ASIC Inferentia.
Trainium è disponibile nel servizio Sagemaker e nelle istanze EC2 (Elastic Compute Cloud). Gli algoritmi di apprendimento e i framework frequentemente utilizzati in AWS dovrebbero essere preinstallati.
