Server Supermicro SYS-822GS-NB3RT HGX
- Condizione
- New
- Produttore
- Supermicro
- Formato
- 8U
- CPU
- 2 x Intel Xeon 6768P (64C 336MB Cache 2.40 GHz)
- RAM
- 24 x 96GB DDR5-6400 ECC RDIMM
- Alimentatore
- 6 x 6600W Titanium (3+3)
- HDD
- 8 x 3.2TB NVMe PCIe Gen5 E1.S + 2 x 960GB NVMe PCIe 4.0 M.2
- NIC card
- 8 x NVIDIA ConnectX-8 SuperNIC 800Gb OSFP (XDR InfiniBand), 2 x NVIDIA ConnectX-6 LX 25GbE SFP28
- GPU
- 1 x NVIDIA HGX B300 NVL8 (8 GPU)
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA B300
- Installed GPU/APU count
- 8
- Maximum GPU/APU count
- 8 onboard GPUs
- Memory per accelerator
- 288GB
- Total accelerator memory
- 2304GB
- GPU memory type
- HBM3e
- Accelerator memory bandwidth
- 8000 GB/s (8 TB/s) per GPU
- Accelerator form factor
- SXM
- Accelerator interconnect
- Fifth-generation NVIDIA NVLink with NVSwitch
- Accelerator-to-CPU interface
- PCIe 5.0 x16 per GPU
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8, FP6, FP4, INT8
- Accelerator virtualization
- NVIDIA vGPU, MIG-backed vGPU and GPU passthrough
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA, CUDA-X and NGC; NVIDIA AI Enterprise-compatible
- Maximum system power
- 19.8kW
- Cooling
- Air cooling with up to 12 heavy-duty fans and optimal fan speed control
- Recommended workloads
- Large-scale AI reasoning, LLM training, fine-tuning and high-throughput inference, generative and multimodal AI, HPC and scientific computing
- Dimensions
- 356 x 449 x 950 mm (H x W x D)
- Weight
- 119 kg
Hai bisogno di una consulenza tecnica per scegliere un server?
Invia una richiestaSupermicro SYS-822GS-NB3RT HGX B300 NVL8 8NVMe è una configurazione di storage per server enterprise in formato 8U con otto vani hot-swap frontali E1.S NVMe PCIe 5.0 popolati con otto unità da 3,2 TB, più due unità di avvio M.2 NVMe da 960 GB. È progettata per fabbriche IA, centri di ricerca, cloud provider e data center enterprise che richiedono storage locale veloce per IA, analisi accelerata e HPC.
Caratteristiche principali:
-
Configurazione delle unità e accesso di servizio: La configurazione di storage selezionata comprende otto vani hot-swap frontali E1.S NVMe PCIe 5.0 popolati con otto unità da 3,2 TB, più due unità di avvio M.2 NVMe da 960 GB. La manutenzione hot-swap frontale o posteriore, in base ai vani indicati, contribuisce a ridurre gli interventi programmati senza aprire lo chassis principale.
-
Sottosistema di accelerazione installato: Il sottosistema di accelerazione installato comprende NVIDIA HGX B300 NVL8 (8 GPUs). Offre 2.304 GB HBM3E (8 x 288 GB). NVIDIA NVLink di quinta generazione con NVSwitch offre fino a 1,8 TB/s di banda GPU-GPU per GPU.
-
Topologia di storage e percorso dati: I vani NVMe sono collegati tramite il percorso di storage PCIe della piattaforma. Le risorse di storage, accelerazione e rete sono organizzate per sostenere il movimento dei dati di dataset, checkpoint e spazio scratch locale.
-
Piattaforma di elaborazione enterprise: Il sottosistema di calcolo combina 2 x Intel Xeon 6768P (64 core, 2.4 GHz) con 2.304 GB memoria DDR5-6400 ECC Registered (24 x 96 GB). Fornisce le risorse CPU, memoria e PCIe necessarie per alimentare il complesso di accelerazione e ospitare servizi di produzione.
-
Gestione e disponibilità: La connettività BMC dedicata e gli strumenti Supermicro per la gestione del ciclo di vita, insieme a 6 x 6600 W ridondanti (3+3) alimentatori di livello Titanium, supportano l’amministrazione remota, il monitoraggio dei componenti, la manutenzione programmata e l’operatività resiliente nel data center.
Scenari d'uso:
-
Training e fine-tuning di modelli IA: Utilizza il sottosistema NVIDIA HGX B300 NVL8 installato per deep learning, IA generativa e sviluppo di modelli di grandi dimensioni.
-
Inferenza e servizi IA in produzione: Fornisce memoria dell’acceleratore e calcolo parallelo per carichi LLM, multimodali e di inferenza enterprise.
-
HPC, simulazione e analisi: Accelera calcolo scientifico, simulazione numerica, progettazione, analisi e altri carichi paralleli supportati dal sottosistema installato.
-
Pipeline ad alta intensità di dati: Combina la configurazione di storage 8NVMe indicata con percorsi acceleratore e rete ad alta larghezza di banda per dataset, checkpoint, staging e storage scratch locale.
Supermicro SYS-822GS-NB3RT HGX B300 NVL8 8NVMe è una piattaforma 8U progettata per le organizzazioni che richiedono la configurazione di storage indicata, accelerazione NVIDIA HGX B300 NVL8 installata e gestione del ciclo di vita di classe enterprise in un unico sistema implementabile.
garanzia
completi
Vogliamo assicurarci che le nostre apparecchiature siano completamente affidabili per voi. Ecco perché tutte le nostre apparecchiature (anche nuove) sono soggette a diagnostica completa, test e sostituzione dei componenti.
estremi
Carichiamo completamente le nostre apparecchiature con varie utility e software. State tranquilli, funzioneranno a lungo.
Alimentatore
I componenti funzionano a piena capacità e vengono testati per diversi giorni. Se non siamo sicuri di qualcosa, lo sostituiamo.
di tutte le apparecchiature
Le nostre normative prevedono gli stessi test sia per le apparecchiature usate che per quelle nuove. Ah, e a proposito, integriamo la garanzia ufficiale del produttore con la nostra garanzia.