Server Huawei Atlas 800I A2
- Condizione
- New
- Produttore
- Huawei
- Formato
- 4U
- CPU
- 4x Kunpeng 920 (64c/64t, 2.6Ghz, 180W)
- RAM
- 512GB (DDR4 ECC REG)
- GPU
- 8 x Ascend 910B
- Accelerator manufacturer
- Huawei
- Accelerator model
- Huawei Ascend 910B NPU
- Installed GPU/APU count
- 8 NPUs
- Maximum GPU/APU count
- 8 NPU modules
- Memory per accelerator
- 64GB
- Total accelerator memory
- 512GB
- GPU memory type
- HBM
- Accelerator memory bandwidth
- 800GB/s per NPU
- Accelerator form factor
- Integrated HCCS NPU modules
- Accelerator interconnect
- 392GB/s
- Accelerator-to-CPU interface
- PCIe 4.0
- Supported compute data types
- FP32, FP16 and INT8
- Accelerator virtualization
- Huawei vNPU compute-resource partitioning, device passthrough and container deployment through the Ascend software stack
- MIG support
- Not applicable; NVIDIA MIG is not used on Huawei Ascend accelerators
- Software ecosystem
- Huawei CANN, MindSpore, MindIE, AscendCL and the PyTorch Adapter for Ascend
- Maximum system power
- 10.4kW
- Cooling
- Air cooling with 8 hot-swap fan modules and N+1 fan redundancy
- Recommended workloads
- Enterprise LLM inference, generative AI services, retrieval-augmented generation, intelligent customer service, content generation, knowledge processing and high-throughput AI inference
- Dimensions
- 175 x 447 x 790 mm (H x W x D)
Hai bisogno di una consulenza tecnica per scegliere un server?
Invia una richiestaHuawei Atlas 800I A2 8SFF+2SFF/NVMe è una configurazione storage per server enterprise di inferenza IA 4U con otto vani SATA da 2,5 pollici più due vani NVMe da 2,5 pollici. È progettata per imprese, service provider e organizzazioni pubbliche che richiedono inferenza scalabile di grandi modelli con livelli separati per capacità e bassa latenza.
Caratteristiche principali:
-
Cestello dischi e accesso per la manutenzione: La configurazione offre otto vani SATA da 2,5 pollici più due vani NVMe da 2,5 pollici. La topologia 8+2 separa il livello SATA ad alta capacità dalle due posizioni NVMe a bassa latenza e consente la manutenzione frontale delle unità.
-
Topologia dello storage: Questo cestello corrisponde all’opzione ufficiale 8 SATA + 2 NVMe. La disposizione alternativa 4 SATA + 6 NVMe è una topologia storage differente.
-
Sottosistema di accelerazione installato: Il sottosistema IA installato comprende 8 acceleratori Ascend 910B ed è ottimizzato per carichi di inferenza ad alta produttività.
-
Piattaforma di elaborazione enterprise: Il sottosistema di elaborazione utilizza 4 processori Kunpeng 920 e 512 GB di memoria DDR4 ECC Registered per model serving, preparazione dei dati e servizi di produzione.
-
Gestione, rete e disponibilità: Otto porte QSFP 200GE, supporto RAID per il livello SATA, 4 moduli di alimentazione hot-swap da 2,6 kW in ridondanza 2+2 e ventole hot-swap N+1 supportano scalabilità orizzontale e continuità del servizio.
Casi d’uso:
-
Inferenza di modelli di grandi dimensioni: Esegue IA generativa e inferenza LLM e multimodale sul sottosistema di accelerazione Ascend installato.
-
Servizi enterprise per contenuti e conoscenza: Supporta ricerca intelligente, generazione di contenuti, recupero della conoscenza e automazione del servizio clienti.
-
Cluster di inferenza distribuiti: Utilizza la connettività RoCE ad alta velocità per scalare i servizi di inferenza su più nodi.
-
Staging dei dati e model serving: Utilizza i livelli SATA e NVMe definiti per dati operativi, modelli, cache e registri di servizio.
Huawei Atlas 800I A2 8SFF+2SFF/NVMe è una configurazione storage dedicata alle organizzazioni che richiedono un cestello con 8 posizioni SATA più 2 NVMe, 8 acceleratori Ascend 910B installati e rete ad alta velocità per lo scale-out in una piattaforma di inferenza 4U.
garanzia
completi
Vogliamo assicurarci che le nostre apparecchiature siano completamente affidabili per voi. Ecco perché tutte le nostre apparecchiature (anche nuove) sono soggette a diagnostica completa, test e sostituzione dei componenti.
estremi
Carichiamo completamente le nostre apparecchiature con varie utility e software. State tranquilli, funzioneranno a lungo.
Alimentatore
I componenti funzionano a piena capacità e vengono testati per diversi giorni. Se non siamo sicuri di qualcosa, lo sostituiamo.
di tutte le apparecchiature
Le nostre normative prevedono gli stessi test sia per le apparecchiature usate che per quelle nuove. Ah, e a proposito, integriamo la garanzia ufficiale del produttore con la nostra garanzia.