Huawei Atlas · Servidor de cálculo
Atlas 800I A2 Inference Server
El servidor de inferencia Atlas 800I A2 emplea un modo de inferencia eficiente de 8 módulos y ofrece una potente capacidad de inferencia IA, destacando en cómputo, ancho de banda de memoria e interconexión. Se aplica a la inferencia de grandes modelos generativos, como atención al cliente inteligente, generación de textos y consolidación de conocimiento, y soporta la interconexión NPU para mejorar la eficiencia.
Aspectos destacados
- Inferencia eficiente de 8 módulos
- cómputo, ancho de banda de memoria e interconexión destacados
- soporte de interconexión NPU para mejorar la inferencia de grandes modelos.
Especificaciones técnicas
| Factor de forma | servidor IA 4U |
|---|---|
| CPU | Kunpeng 920 x4 |
| Memoria del sistema | 32 zócalos DDR4 DIMM hasta 3200 MT/s |
| Interconexión interna | malla NPU completa opcional, 392 GB/s agregados |
| Red externa | 8x 200 GE QSFP RoCE |
| PCIe | hasta 3x PCIe 4.0 |
| PSU | 4x 2.6 kW, 2+2 |
| Refrigeración | por aire |
| Modelo de módulo y cómputo total | no publicado en el sitio web |
Casos de uso típicos
Inferencia de grandes modelos generativos: atención al cliente inteligente, generación de textos, consolidación de conocimiento y otras escenas de generación de contenidos.
Productos relacionados
Huawei Atlas
Atlas 200I DK A2 Developer Kit
Kit de desarrollo IA sencillo y fácil para innovación acelerada Ver detalles →
Huawei Atlas
Atlas 200I A2 Acceleration Module
Módulo acelerador de IA integrado en dispositivos inteligentes de borde, robots y drones Ver detalles →
Huawei Atlas
Atlas 300I A2 Inference Card
Tarjeta de inferencia IA integrada en servidores con potencia de cómputo excepcional Ver detalles →
Huawei Atlas