Produkte/Atlas 300I A2 Inference Card

EN · DE · FR · ES

Atlas 300I A2 Inference Card - Huawei Atlas AI hardware
Huawei Atlas · Beschleunigerkarte

Atlas 300I A2 Inference Card

Die Atlas 300I A2 Inferenzkarte bietet starke AI-Inferenzleistung und zeichnet sich durch hohe Rechenleistung und Videoanalysefähigkeit aus. Sie ist breit einsetzbar in der generativen Großmodell-Inferenz, Inhalts moderation und vielen weiteren Szenarien und unterstützt bis zu 560 TOPS INT8 sowie 280 TFLOPS FP16, um die Inferenz großer Modelle branchenweit voranzutreiben.

  • Superknoten-Architektur: bietet branchenweit führende 560 TOPS INT8 sowie 280 TFLOPS FP16 und unterstützt 8 core * 2.0 GHz CPU-Rechenleistung
  • hohe Bandbreite: bis zu 1.6 TB/s Speicherbandbreite, unterstützt PCIe 5.0 Hochgeschwindigkeitsschnittstelle
AI-Rechenleistung560 TOPS INT8, 280 TFLOPS FP16
On-Chip-Speicher32 GB (0.8 TB/s) or 64 GB (1.6 TB/s), ECC
InterconnectPCIe Gen5.0
CPU8-core 2.0 GHz
typische Leistungsaufnahmemax 350 W
Bauformdual-slot full-length full-height PCIe card
Betriebstemperatur5℃~45℃
Generative Großmodell-Inferenz, Inhaltsmoderation und weitere AI-Inferenzszenarien