AWS Cloud получает чип Trainium для машинного обучения

Amazon Веб-службы (AWS) получает ещё одно новшество, помимо недавно представленных экземпляров MacOS, основанных на Mac minis. Речь идет о Траиниумчип для отдела облачных вычислений Amazon, который был разработан специально для обучения нейронных сетей. Как и Inferentia ASICs и процессоры Graviton2, Trainium является собственной разработкой.

Клиенты должны иметь возможность использовать Trainium со второй половины 2021 года. По словам Amazon, в центре внимания при разработке были очень хорошие показатели по отношению к цене. По мнению Amazon, примеры должны быть ниже, чем у Habana Gaudi от Intel, которые, в свою очередь, уже имеют на 40 процентов лучшее соотношение цены и производительности, чем конфигурация p4d.24xlarge с восемью Nvidia A100.

Технические данные неизвестны

Компания Amazon еще не опубликовала подробностей о технологии производства стружки Trainium и ее характеристиках. Единственным известным фактом является то, что экземпляры AWS будут иметь самую высокую терафлопсную производительность среди всех машинных обучающих экземпляров компании.

Известно также, что Облако Стандартные фреймворки, поддерживающие Pytorch, MXNet и Tensorflow. Комплект для разработки программного обеспечения (SDK) под названием Neuron также уже известен по ASIC-ам Inferentia.

Trainium доступен в сервисе Sagemaker и в экземплярах EC2 (Elastic Compute Cloud). Алгоритмы и рамки обучения, часто используемые в СПЦ, должны быть предварительно установлены.