Amazon Services web (AWS) reçoit une autre innovation en plus des instances macOS récemment introduites basées sur les Mac minis. Il s'agit de la Trainiumune puce pour la division "cloud computing" d'Amazon qui a été développée explicitement pour la formation des réseaux neuronaux. Comme les ASICs Inferentia et les CPUs Graviton2, le Trainium est un développement interne.
Les clients devraient pouvoir utiliser Trainium à partir du second semestre 2021. Selon Amazon, l'accent a été mis sur le développement d'une très bonne performance par rapport au prix. Selon Amazon, les cas devraient être inférieurs à ceux de l'Habana Gaudi d'Intel, dont le rapport prix/performance est déjà 40 % supérieur à celui de l p4d.24xlarge configuration avec huit Nvidia A100.
Détails techniques inconnus
Amazon n'a pas encore publié de détails sur la technologie de la puce Trainium et ses performances. Le seul fait connu est que les instances AWS auront les performances en téraflops les plus élevées de toutes les instances d'apprentissage machine de l'entreprise.
De plus, on sait que les Nuage Frameworks standard qui supporte Pytorch, MXNet et Tensorflow. Le kit de développement logiciel (SDK) appelé Neuron est également déjà connu des ASIC d'Inferentia.
Trainium est disponible dans le service Sagemaker et dans les instances EC2 (Elastic Compute Cloud). Les algorithmes et les cadres d'apprentissage fréquemment utilisés dans le système AWS doivent être préinstallés.
