Amazon Webbtjänster (AWS) får ytterligare en nyhet utöver de nyligen introducerade macOS-instanserna som är baserade på Mac minis. Det handlar om Trainiumett chip för Amazons avdelning för molntjänster som uttryckligen utvecklades för att träna neurala nätverk. Liksom Inferentias ASIC:er och Graviton2 CPU:erna är Trainium också en egen utveckling.
Kunderna ska kunna använda Trainium från och med andra halvåret 2021. Enligt Amazon låg fokus i utvecklingen på en mycket bra prestanda i förhållande till priset. Enligt Amazon bör instanserna vara lägre än instanserna med Intels Habana Gaudi, som i sin tur redan har ett 40 procent bättre pris-prestandaförhållande än p4d.24xlarge konfiguration med åtta Nvidia A100.
Tekniska detaljer okända
Amazon har ännu inte offentliggjort några detaljer om tekniken bakom Trainium-chipet eller dess prestanda. Allt som är känt är att AWS-instanserna kommer att ha den högsta teraflops-prestandan av alla företagets instanser för maskininlärning.
Det är också känt att Moln Standardramar som stöder Pytorch, MXNet och Tensorflow. Programvaruutvecklingskit (SDK) kallat Neuron är också redan känt från Inferentias ASIC:er.
Trainium finns i Sagemaker-tjänsten och i EC2-instanserna (Elastic Compute Cloud). Vanliga inlärningsalgoritmer och ramverk som används på AWS sägs vara förinstallerade.
