AWS Cloud saņem Trainium mašīnmācīšanās mikroshēmu

Amazon Tīmekļa pakalpojumi (AWS) papildus nesen ieviestajām macOS instancēm, kas balstītas uz Mac minis, tiek ieviests vēl viens jauninājums. Runa ir par TrainiumAmazon mākoņdatošanas nodaļas mikroshēmu, kas tika izstrādāta tieši neironu tīklu apmācībai. Tāpat kā Inferentia ASIC un Graviton2 procesori, arī Trainium ir patentēta izstrādne.

Klienti varēs izmantot Trainium no 2021. gada otrās puses. Saskaņā ar Amazon teikto, izstrādē galvenā uzmanība tika pievērsta ļoti labam sniegumam attiecībā pret cenu. Pēc Amazon teiktā, instancēm vajadzētu būt zemākām par tām ar Intel Habana Gaudi, kurām savukārt jau ir par 40 % labāka cenas un veiktspējas attiecība nekā Intel Habana Gaudi. p4d.24xlarge konfigurācija ar astoņiem Nvidia A100.

Tehniskā informācija nav zināma

Amazon vēl nav publicējusi sīkāku informāciju par Trainium mikroshēmas tehnoloģiju un tās veiktspēju. Zināms ir tikai tas, ka AWS instancei būs visaugstākā teraflopu veiktspēja no visām uzņēmuma mašīnmācīšanās instancēm.

Ir arī zināms, ka Mākonis Standarta ietvari, kas atbalsta Pytorch, MXNet un Tensorflow. Programmatūras izstrādes komplekts (SDK) ar nosaukumu Neuron jau ir pazīstams arī no Inferentia ASIC.

Trainium ir pieejams pakalpojumā Sagemaker un EC2 instancēs (Elastic Compute Cloud). Tiek apgalvots, ka AWS bieži izmantotie mācību algoritmi un ietvari ir iepriekš instalēti.