Server GIGABYTE G593-SD2-AAX1
- Condizione
- New
- Produttore
- GIGABYTE
- RAM
- 8192GB (DDR5 ECC REG)
- NIC card
- 2x 10GbE
- GPU
- 8 x NVIDIA H100
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA H100 SXM5 80GB (HGX H100)
- Installed GPU/APU count
- 8 GPUs
- Maximum GPU/APU count
- 8 SXM5 GPUs
- Memory per accelerator
- 80GB
- Total accelerator memory
- 640GB (8 x 80GB)
- GPU memory type
- HBM3
- Accelerator memory bandwidth
- 3,350GB/s (3.35TB/s) per GPU
- Accelerator form factor
- SXM5 modules on an NVIDIA HGX H100 baseboard
- Accelerator interconnect
- Fourth-generation NVIDIA NVLink with NVSwitch; 900GB/s per GPU
- Accelerator-to-CPU interface
- PCIe 5.0 x16 per GPU through the HGX baseboard
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8, INT8
- Accelerator virtualization
- NVIDIA vGPU, SR-IOV and GPU passthrough
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA, NVIDIA AI Enterprise and NVIDIA Transformer Engine
- Maximum system power
- 18kW installed PSU capacity (6 x 3,000W 80 PLUS Titanium power supplies), with 4+2 redundancy
- Cooling
- Air cooling with passive SXM5 accelerator modules and a dedicated GPU-tray fan array
- Recommended workloads
- Generative AI and deep learning training, fine-tuning and inference, LLM and NLP workloads, HPC, simulation, analytics and data science
- Dimensions
- 219.7 x 447 x 945 mm (H x W x D)
- Net weight
- 91 kg
Hai bisogno di una consulenza tecnica per scegliere un server?
Invia una richiestaGigabyte G593-SD2-AAX1 8SFF/NVMe è una configurazione di storage per server GPU enterprise in formato 5U con 8 vani hot-swap frontali da 2,5 pollici per unità PCIe Gen5 NVMe, SATA o SAS-4. È progettata per fabbriche IA, centri di ricerca, cloud provider e data center che richiedono storage locale veloce per carichi accelerati.
Caratteristiche principali:
-
Configurazione delle unità e accesso di servizio: Lo chassis offre 8 posizioni hot-swap frontali da 2,5 pollici per PCIe Gen5 NVMe, SATA o SAS-4. Le unità supportate possono essere sostituite senza aprire lo chassis, contribuendo a ridurre i tempi di manutenzione programmata.
-
Sottosistema di accelerazione: Il sottosistema di accelerazione installato comprende 8 x NVIDIA H100 SXM5 80GB (HGX H100) e offre complessivamente 640GB (8 x 80GB) di memoria GPU. NVIDIA NVLink di quarta generazione con NVSwitch; 900 GB/s per GPU.
-
Topologia di storage e percorso dati: Ogni posizione frontale supporta PCIe Gen5 x4 NVMe, SATA a 6Gb/s o SAS-4 a 24Gb/s. Per le unità SAS è richiesta una scheda di espansione SAS.
-
Piattaforma di elaborazione enterprise: La piattaforma dual-socket supporta processori Intel Xeon Scalable di 5ª/4ª generazione o Intel Xeon CPU Max Series ed è configurata con 8,192GB di memoria DDR5 ECC Registered su 32 slot DIMM. Fornisce risorse CPU, memoria e PCIe per il complesso di accelerazione e i servizi di produzione.
-
Gestione e disponibilità: ASPEED AST2600 BMC, LAN di gestione dedicata, GIGABYTE Management Console e 2 x 10GbE Intel X710-AT2; 4+2 x 3000W 80 PLUS Titanium alimentatori ridondanti. Queste funzioni supportano amministrazione remota, monitoraggio dello stato e operatività resiliente.
Scenari d'uso:
-
Training e fine-tuning dei modelli IA: Utilizza il sottosistema NVIDIA H100 SXM5 80GB (HGX H100) installato per training, fine-tuning e sviluppo di modelli di grandi dimensioni.
-
Inferenza e servizi IA in produzione: Fornisce calcolo parallelo e memoria dell’acceleratore per servizi di inferenza LLM, multimodali ed enterprise.
-
HPC, simulazione e analisi: Accelera calcolo scientifico, simulazione numerica, analisi e altri carichi paralleli supportati da NVIDIA H100 SXM5 80GB (HGX H100).
-
Pipeline ad alta intensità di dati: Combina 8 posizioni frontali multiprotocollo da 2,5 pollici con percorsi GPU e di rete ad alta larghezza di banda per dataset, checkpoint, staging e storage scratch locale.
Gigabyte G593-SD2-AAX1 8SFF/NVMe è una piattaforma GPU 5U progettata per le organizzazioni che richiedono 8 vani hot-swap frontali da 2,5 pollici per unità NVMe, SATA o SAS-4, 640GB (8 x 80GB) di memoria GPU installata e funzionalità enterprise di elaborazione e gestione in un unico sistema pronto all’implementazione.
garanzia
completi
Vogliamo assicurarci che le nostre apparecchiature siano completamente affidabili per voi. Ecco perché tutte le nostre apparecchiature (anche nuove) sono soggette a diagnostica completa, test e sostituzione dei componenti.
estremi
Carichiamo completamente le nostre apparecchiature con varie utility e software. State tranquilli, funzioneranno a lungo.
Alimentatore
I componenti funzionano a piena capacità e vengono testati per diversi giorni. Se non siamo sicuri di qualcosa, lo sostituiamo.
di tutte le apparecchiature
Le nostre normative prevedono gli stessi test sia per le apparecchiature usate che per quelle nuove. Ah, e a proposito, integriamo la garanzia ufficiale del produttore con la nostra garanzia.