Serveur Huawei Atlas 800I A2
- État
- New
- Fabricant
- Huawei
- Format
- 4U
- CPU
- 4x Kunpeng 920 (64c/64t, 2.6Ghz, 180W)
- RAM
- 512GB (DDR4 ECC REG)
- GPU
- 8 x Ascend 910B
- Accelerator manufacturer
- Huawei
- Accelerator model
- Huawei Ascend 910B NPU
- Installed GPU/APU count
- 8 NPUs
- Maximum GPU/APU count
- 8 NPU modules
- Memory per accelerator
- 64GB
- Total accelerator memory
- 512GB
- GPU memory type
- HBM
- Accelerator memory bandwidth
- 800GB/s per NPU
- Accelerator form factor
- Integrated HCCS NPU modules
- Accelerator interconnect
- 392GB/s
- Accelerator-to-CPU interface
- PCIe 4.0
- Supported compute data types
- FP32, FP16 and INT8
- Accelerator virtualization
- Huawei vNPU compute-resource partitioning, device passthrough and container deployment through the Ascend software stack
- MIG support
- Not applicable; NVIDIA MIG is not used on Huawei Ascend accelerators
- Software ecosystem
- Huawei CANN, MindSpore, MindIE, AscendCL and the PyTorch Adapter for Ascend
- Maximum system power
- 10.4kW
- Cooling
- Air cooling with 8 hot-swap fan modules and N+1 fan redundancy
- Recommended workloads
- Enterprise LLM inference, generative AI services, retrieval-augmented generation, intelligent customer service, content generation, knowledge processing and high-throughput AI inference
- Dimensions
- 175 x 447 x 790 mm (H x W x D)
Besoin d’un conseil technique pour choisir un serveur ?
Soumettre une demandeHuawei Atlas 800I A2 8SFF+2SFF/NVMe est une configuration de stockage pour serveur d’inférence IA d’entreprise 4U avec huit baies SATA 2,5 pouces plus deux baies NVMe 2,5 pouces. Elle est conçue pour les entreprises, fournisseurs de services et organismes publics qui ont besoin d’une inférence évolutive de grands modèles avec des niveaux séparés de capacité et de faible latence.
Caractéristiques principales :
-
Panier de disques et accès de maintenance: La configuration offre huit baies SATA 2,5 pouces plus deux baies NVMe 2,5 pouces. La topologie 8+2 sépare le niveau SATA capacitif des deux emplacements NVMe à faible latence et permet la maintenance des disques en façade.
-
Topologie de stockage: Ce panier correspond à l’option officielle 8 SATA + 2 NVMe. L’agencement alternatif 4 SATA + 6 NVMe constitue une autre topologie de stockage.
-
Sous-système d’accélération installé: Le sous-système d’IA installé comprend 8 accélérateurs Ascend 910B et est optimisé pour les charges d’inférence à haut débit.
-
Plateforme de calcul d’entreprise: Le sous-système de calcul utilise 4 processeurs Kunpeng 920 et 512 Go de mémoire DDR4 ECC Registered pour le service de modèles, la préparation des données et les services de production.
-
Administration, réseau et disponibilité: Huit ports QSFP 200GE, la prise en charge RAID du niveau SATA, 4 modules d’alimentation hot-swap de 2,6 kW en redondance 2+2 et des ventilateurs hot-swap N+1 favorisent le déploiement horizontal et la continuité de service.
Cas d’utilisation :
-
Inférence de grands modèles: Exécute l’IA générative ainsi que l’inférence LLM et multimodale sur le sous-système d’accélération Ascend installé.
-
Services de contenu et de connaissance d’entreprise: Prend en charge la recherche intelligente, la génération de contenu, la recherche de connaissances et l’automatisation du service client.
-
Clusters d’inférence distribués: Exploite la connectivité RoCE à haut débit pour faire évoluer les services d’inférence sur plusieurs nœuds.
-
Préparation des données et service de modèles: Utilise les niveaux SATA et NVMe définis pour les données d’exploitation, les modèles, les caches et les journaux de service.
Huawei Atlas 800I A2 8SFF+2SFF/NVMe est une configuration de stockage dédiée aux organisations qui ont besoin d’un panier 8 SATA plus 2 NVMe, 8 accélérateurs Ascend 910B installés et un réseau rapide pour la montée en charge horizontale dans une plateforme d’inférence 4U.
d'acheter un serveur
chez Servermall
Nous tenons à vous garantir une fiabilité totale de nos équipements. C'est pourquoi tous nos équipements (même neufs) sont soumis à des diagnostics, des tests et des remplacements de pièces complets.
Nous équipons nos équipements de divers utilitaires et logiciels. Soyez assuré qu'ils fonctionneront très longtemps.
Alimentation
Les composants fonctionnent à pleine capacité et sont testés pendant plusieurs jours. En cas de doute, nous les remplaçons.
de tous les Ă©quipements
Nos réglementations imposent les mêmes tests pour les équipements neufs et d'occasion. Au fait, nous complétons la garantie officielle du fabricant par notre propre garantie.