Server GIGABYTE XV23-VC0-AAJ1
- Condizione
- New
- Produttore
- GIGABYTE
- Formato
- 2U
- RAM
- 960GB (LPDDR5x)
- GPU
- 4 x NVIDIA H100
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA H100
- Installed GPU/APU count
- 4
- Maximum GPU/APU count
- 4
- Memory per accelerator
- 80GB
- Total accelerator memory
- 320GB
- GPU memory type
- HBM2e
- Accelerator memory bandwidth
- Over 2 TB/s per GPU
- Accelerator form factor
- PCIe FHFL
- Accelerator interconnect
- PCIe peer-to-peer topology; no chassis-level NVLink fabric
- Accelerator-to-CPU interface
- PCIe 5.0 x16 per GPU
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8 and INT8
- Accelerator virtualization
- NVIDIA vGPU, SR-IOV and GPU passthrough
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA, NVIDIA AI Enterprise and NVIDIA Transformer Engine
- Maximum system power
- 8kW
- Cooling
- Air cooling with four 80 mm system fan modules and passive GPU cards
- Recommended workloads
- AI training, fine-tuning and inference, LLM and NLP workloads, HPC, simulation, analytics and data science
- Dimensions
- 87 x 438 x 900 mm (H x W x D)
- Weight
- 46.6 kg
Hai bisogno di una consulenza tecnica per scegliere un server?
Invia una richiestaGigabyte XV23-VC0-AAJ1 2NVMe è una configurazione di sistema GPU enterprise in formato 2U con 2 posizioni frontali hot-swap PCIe Gen5 NVMe da 2,5 pollici. È progettata per AI factory, centri di ricerca, cloud provider e data center che richiedono storage locale veloce per carichi accelerati.
Caratteristiche principali:
-
Configurazione delle unità e accesso di servizio: Lo chassis offre 2 posizioni frontali hot-swap PCIe Gen5 NVMe da 2,5 pollici. Le unità supportate possono essere sostituite senza aprire lo chassis, contribuendo a ridurre i tempi di manutenzione pianificata.
-
Sottosistema di accelerazione: Il sottosistema di accelerazione installato comprende 4 x NVIDIA H100 PCIe 80GB e offre complessivamente 320GB (4 x 80GB) di memoria GPU. PCIe; questa configurazione non prevede un bridge GPU-to-GPU dedicato.
-
Topologia di storage e percorso dati: Ogni posizione frontale è collegata tramite un backplane NVMe PCIe Gen5 x4. 2 M.2 PCIe interni Gen5 x4 slot. Questa disposizione agevola la preparazione rapida di dataset, checkpoint e storage scratch locale senza associare la gabbia a un diverso protocollo di unità.
-
Piattaforma di elaborazione enterprise: Il sottosistema di calcolo è configurato con NVIDIA Grace CPU Superchip con 2 CPU Grace collegate tramite NVLink-C2C a 900 GB/s e 960GB memoria CPU LPDDR5X ECC nella configurazione proposta. Fornisce risorse CPU, memoria e PCIe per il complesso di accelerazione e i servizi di produzione.
-
Gestione e disponibilità: ASPEED AST2600 BMC, LAN di gestione dedicata e GIGABYTE Management Console; 2+2 x alimentatori ridondanti 2000W 80 PLUS Titanium. Queste funzioni supportano amministrazione remota, monitoraggio dello stato e operatività resiliente.
Scenari d'uso:
-
Sviluppo di modelli IA: Utilizza il sottosistema NVIDIA H100 PCIe 80GB installato per training, fine-tuning e sviluppo di modelli di grandi dimensioni.
-
Inferenza e IA in produzione: Offre calcolo parallelo e memoria dell'acceleratore per servizi di inferenza LLM, multimodali ed enterprise.
-
HPC, simulazione e analisi: Accelera calcolo scientifico, simulazione numerica, analisi e altri carichi paralleli supportati da NVIDIA H100 PCIe 80GB.
-
Pipeline ad alta intensità di dati: Combina 2 posizioni NVMe frontali da 2,5 pollici con percorsi GPU e di rete ad alta larghezza di banda per dataset, checkpoint, staging e spazio scratch locale.
Gigabyte XV23-VC0-AAJ1 2NVMe è una piattaforma 2U progettata per organizzazioni che richiedono 2 vani NVMe PCIe Gen5 frontali da 2,5 pollici, 320GB (4 x 80GB) di memoria GPU installata e funzionalità enterprise di calcolo e gestione in un unico sistema pronto per l'implementazione.
garanzia
completi
Vogliamo assicurarci che le nostre apparecchiature siano completamente affidabili per voi. Ecco perché tutte le nostre apparecchiature (anche nuove) sono soggette a diagnostica completa, test e sostituzione dei componenti.
estremi
Carichiamo completamente le nostre apparecchiature con varie utility e software. State tranquilli, funzioneranno a lungo.
Alimentatore
I componenti funzionano a piena capacità e vengono testati per diversi giorni. Se non siamo sicuri di qualcosa, lo sostituiamo.
di tutte le apparecchiature
Le nostre normative prevedono gli stessi test sia per le apparecchiature usate che per quelle nuove. Ah, e a proposito, integriamo la garanzia ufficiale del produttore con la nostra garanzia.