Productos/Zhenwu M890 All-Scenario Training & Inference AI Chip

EN · DE · FR · ES

Zhenwu M890 All-Scenario Training & Inference AI Chip - Alibaba AI hardware
Alibaba · Tarjeta aceleradora

Zhenwu M890 All-Scenario Training & Inference AI Chip

Producto de la sección «Chips de IA» del sitio de T-Head. Hardware desarrollado de extremo a extremo, con módulos propios de arquitectura de cómputo paralelo e interconexión entre chips; la pila de software T-Head SAIL® de propiedad independiente es compatible con el ecosistema de IA principal y ofrece una interfaz de programación unificada, sin modificar el código de aplicación en la migración; soporta compartición de recursos multiproceso y aislamiento seguro multiinquilino; el cómputo del chip se combina con los frameworks, plataformas, modelos y aplicaciones de Alibaba para ofrecer un...

  • Totalmente propio
  • alto rendimiento (144 GB de memoria, 800 GB/s de interconexión entre chips, FP8/FP4, interconexión de 64 tarjetas a todo ancho de banda)
  • fácil uso (pila T-Head SAIL®, API unificada, migración sin cambios de código)
  • despliegue flexible (compartición multiproceso, aislamiento multiinquilino)
  • integración chip-nube-modelo
Capacidad de memoria144 GB
Ancho de banda entre chips800 GB/s (ICN, 8 puertos directos ICN / 8 ICN ports direct)
Formatos de baja precisiónFP8 / FP4 (también FP32/BF16/FP16/INT8 / also FP32/BF16/FP16/INT8)
Escala de interconexiónICN Switch, malla de 64 tarjetas a todo ancho de banda / 64-card full-bandwidth mesh
Pila de softwareT-Head SAIL® (API unificada, compatible con el ecosistema de IA principal / unified API, mainstream AI ecosystem compatible)
Proceso, TDP, factor de formano publicado / not disclosed
Entrenamiento de grandes modelosinferencia de grandes modelosentrenamiento e inferencia de modelos de conducción autónomaentrenamiento e inferencia de modelos multimodales