Amazon Veebiteenused (AWS) saab lisaks hiljuti kasutusele võetud Mac minidel põhinevatele macOS-instantsidele veel ühe uuenduse. See on umbes Trainiumkiip Amazoni pilvandmetöötlusosakonna jaoks, mis on spetsiaalselt välja töötatud närvivõrkude treenimiseks. Nagu Inferentia ASIC ja Graviton2 protsessorid, on ka Trainium omaette arendus.
Kliendid peaksid saama Trainiumit kasutada alates 2021. aasta teisest poolest. Amazoni sõnul keskenduti arenduses väga heale tulemuslikkusele hinna suhtes. Amazoni sõnul peaksid instantsid olema alla nende, millel on Inteli Habana Gaudi, mis omakorda on juba 40 protsenti parema hinna ja jõudluse suhtega kui p4d.24xlarge konfiguratsioon kaheksa Nvidia A100-ga.
Tehnilised üksikasjad teadmata
Amazon ei ole veel avaldanud üksikasju Trainium-kiibi taga oleva tehnoloogia või selle jõudluse kohta. Teada on vaid see, et AWS-i instantsidel on ettevõtte kõigist masinõppeinstantsidest suurim teraflopside jõudlus.
Samuti on teada, et Pilv Standardsed raamistikud, mis toetavad Pytorch, MXNet ja Tensorflow. Tarkvara arenduskomplekt (SDK) nimega Neuron on juba tuntud ka Inferentia ASIC-idest.
Trainium on saadaval Sagemakeri teenuses ja EC2 instantsides (Elastic Compute Cloud). AWSis kasutatavad üldised õpialgoritmid ja raamistikud on väidetavalt eelinstalleeritud.
