Amazon Webtjenester (AWS) får endnu en nyskabelse ud over de nyligt introducerede macOS-instanser baseret på Mac mini'er. Det drejer sig om den Trainiumen chip til Amazons cloud computing-afdeling, der udtrykkeligt er udviklet til træning af neurale netværk. Ligesom Inferentia ASIC'erne og Graviton2 CPU'erne er Trainium også en proprietær udvikling.
Kunderne skal kunne bruge Trainium fra anden halvdel af 2021. Ifølge Amazon var der i udviklingen fokus på en meget god ydelse i forhold til prisen. Ifølge Amazon skulle instanserne ligge under dem med Intels Habana Gaudi, som til gengæld allerede har et 40 procent bedre pris-ydelsesforhold end p4d.24xlarge konfiguration med otte Nvidia A100'ere.
Tekniske detaljer ukendt
Amazon har endnu ikke offentliggjort detaljer om teknologien bag Trainium-chippen eller dens ydeevne. Det eneste, der er kendt, er, at AWS-instanserne vil have den højeste teraflops-ydeevne af alle virksomhedens maskinlæringsinstanser.
Det er også kendt, at den Cloud Standardrammer, der understøtter Pytorch, MXNet og Tensorflow. Softwareudviklingskittet (SDK) kaldet Neuron er også allerede kendt fra Inferentia ASIC'erne.
Trainium er tilgængelig i Sagemaker-tjenesten og i EC2-instanserne (Elastic Compute Cloud). Almindelige læringsalgoritmer og rammer, der anvendes på AWS, er angiveligt forudinstalleret.
