Amazônia Serviços Web (AWS) obtém outra inovação além das recém introduzidas instâncias MacOS baseadas em Mac minis. É sobre o TrainiumUm chip para a divisão de cloud computing da Amazon, que foi desenvolvido explicitamente para o treinamento de redes neurais. Tal como os ASICs Inferentia e as CPUs Graviton2, o Trainium é um desenvolvimento interno.
Os clientes devem poder utilizar o Trainium a partir da segunda metade de 2021. De acordo com a Amazon, o foco no desenvolvimento foi em um desempenho muito bom em relação ao preço. Segundo a Amazon, as instâncias devem ser inferiores às da Intel Habana Gaudi, que por sua vez já têm uma relação preço-desempenho 40% melhor do que a p4d.24xlarge configuração com oito Nvidia A100.
Detalhes técnicos desconhecidos
A Amazon ainda não publicou detalhes sobre a tecnologia do chip do Trainium e seu desempenho. O único facto conhecido é que as instâncias AWS terão o melhor desempenho teraflops de todas as instâncias de aprendizagem de máquinas da empresa.
Sabe-se também que o Nuvem Estruturas padrão que suportam Pytorch, MXNet e Tensorflow. O kit de desenvolvimento de software (SDK) chamado Neuron também já é conhecido da Inferentia ASICs.
O Trainium está disponível no serviço Sagemaker e nas instâncias do EC2 (Elastic Compute Cloud). Os algoritmos e estruturas de aprendizagem frequentemente utilizados no AWS devem ser pré-instalados.