Amazon Verkkopalvelut (AWS) on saamassa uuden innovaation äskettäin esiteltyjen Mac miniin perustuvien macOS-instanssien lisäksi. Kyse on TrainiumAmazonin pilvipalveluja tarjoavan osaston siru, joka on kehitetty nimenomaan neuroverkkojen kouluttamiseen. Trainium on Inferentia-ASIC:ien ja Graviton2-suorittimien tavoin myös oma kehitystyönsä.
Asiakkaiden pitäisi pystyä käyttämään Trainiumia vuoden 2021 jälkipuoliskolta alkaen. Amazonin mukaan kehitystyössä keskityttiin erittäin hyvään suorituskykyyn suhteessa hintaan. Amazonin mukaan instanssien pitäisi olla alle niiden, joissa on Intelin Habana Gaudi, jolla puolestaan on jo 40 prosenttia parempi hinta-suorituskykysuhde. p4d.24xlarge kokoonpano kahdeksan Nvidia A100:n kanssa.
Tekniset tiedot tuntemattomat
Amazon ei ole vielä julkaissut yksityiskohtia Trainium-sirun tekniikasta ja suorituskyvystä. Tiedossa on vain, että AWS:n instansseilla on suurin teraflops-suoritus kaikista yhtiön koneoppimisinstansseista.
Tiedetään myös, että Cloud Pytorchia, MXNetiä ja Tensorflowta tukevat vakiokehykset. Neuron-niminen ohjelmistokehityspaketti (SDK) on myös jo tunnettu Inferentia-ASIC:ista.
Trainium on saatavilla Sagemaker-palvelussa ja EC2-instansseissa (Elastic Compute Cloud). AWS:ssä usein käytettävien oppimisalgoritmien ja kehysten sanotaan olevan esiasennettuina.