Produits/Atlas 300I A2 Inference Card

EN · DE · FR · ES

Atlas 300I A2 Inference Card - Huawei Atlas AI hardware
Huawei Atlas · Carte d'accélération

Atlas 300I A2 Inference Card

La carte d'inférence Atlas 300I A2 offre une capacité d'inférence IA puissante. Elle se distingue par sa puissance de calcul et ses capacités d'analyse vidéo, et s'applique largement à l'inférence de grands modèles génératifs, à la modération de contenu et à de multiples scénarios. Elle prend en charge jusqu'à 560 TOPS INT8 et 280 TFLOPS FP16, pour accélérer l'inférence de grands modèles au plus profond des secteurs.

  • Architecture supernœud : puissance 560 TOPS INT8 et 280 TFLOPS FP16 parmi les meilleures du marché, calcul 8 cœurs * 2.0 GHz
  • Bande passante élevée : bande passante mémoire jusqu'à 1.6 To/s, interface PCIe 5.0 haut débit
Puissance de calcul IA560 TOPS INT8, 280 TFLOPS FP16
Mémoire sur puce32GB (0.8TB/s) or 64GB (1.6TB/s), ECC
InterconnexionPCIe Gen5.0
CPU8-core 2.0 GHz
TDP typiquemax 350W
Facteur de formedual-slot full-length full-height PCIe card
Température de fonctionnement5℃~45℃
Inférence de grands modèles génératifs, modération de contenu et autres scénarios d'inférence IA.