Server Supermicro AS-8125GS-TNHR
- Condizione
- New
- Produttore
- Supermicro
- Formato
- 8U
- RAM
- 6144GB (DDR5 ECC REG)
- GPU
- 8 x NVIDIA H100
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA H100
- Installed GPU/APU count
- 8 onboard GPUs
- Maximum GPU/APU count
- 8 onboard GPUs
- Memory per accelerator
- 80GB
- Total accelerator memory
- 640GB
- GPU memory type
- HBM3
- Accelerator memory bandwidth
- 3350 GB/s (3.35 TB/s) per GPU
- Accelerator form factor
- SXM5
- Accelerator interconnect
- NVIDIA NVLink with NVSwitch
- Accelerator-to-CPU interface
- PCIe 5.0 x16 per GPU
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8, INT8
- Accelerator virtualization
- NVIDIA vGPU, SR-IOV, GPU passthrough
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA; NVIDIA AI Enterprise-compatible
- Maximum system power
- 9kW
- Cooling
- Air cooling with up to 10 heavy-duty fans and optimal fan-speed control
- Recommended workloads
- Large-scale AI and deep learning training, LLM workloads, HPC, simulation and scientific computing
- Dimensions
- 355.6 x 437 x 843.28 mm (H x W x D)
- Weight
- 75.3 kg
Hai bisogno di una consulenza tecnica per scegliere un server?
Invia una richiestaSupermicro AS-8125GS-TNHR 12SFF/NVMe + 2SFF è una configurazione di storage per server enterprise in formato 8U con dodici vani hot-swap frontali NVMe da 2,5 pollici più due vani hot-swap frontali SATA da 2,5 pollici. È progettata per fabbriche IA, centri di ricerca, cloud provider e data center enterprise che richiedono storage locale veloce per carichi IA e HPC.
Caratteristiche principali:
-
Configurazione delle unità e accesso di servizio: La configurazione di storage selezionata comprende dodici vani hot-swap frontali NVMe da 2,5 pollici più due vani hot-swap frontali SATA da 2,5 pollici. Le unità hot-swap supportate possono essere gestite dal frontale senza aprire lo chassis, contribuendo a ridurre i tempi di manutenzione programmata.
-
Sottosistema di accelerazione installato: Il sottosistema di accelerazione installato comprende 8 x NVIDIA H100 SXM5. Offre complessivamente 640GB HBM3 (8 x 80GB). NVIDIA NVLink di quarta generazione con NVSwitch offre comunicazioni ad alta larghezza di banda nel complesso HGX H100.
-
Topologia di storage e percorso dati: Dodici vani NVMe costituiscono il livello dati ad alta velocità e due vani SATA forniscono un livello separato per servizio o avvio. I quattro vani NVMe opzionali aggiuntivi non fanno parte di questa configurazione 12NVMe+2SFF.
-
Piattaforma di elaborazione enterprise: Il sottosistema di calcolo installato combina due processori AMD EPYC serie 9004 con 6.144GB di memoria DDR5 ECC Registered. Fornisce le risorse CPU, memoria e PCIe necessarie per alimentare gli acceleratori e ospitare i servizi di produzione.
-
Gestione e disponibilità: Connettività BMC dedicata e strumenti Supermicro per la gestione del ciclo di vita, insieme a 6 alimentatori ridondanti da 3000W (3+3) 80 PLUS Titanium, supportano amministrazione remota, monitoraggio dei componenti, interventi di manutenzione programmata e operatività resiliente nel data center.
Scenari d'uso:
-
Sviluppo di modelli IA: Utilizza il sottosistema NVIDIA H100 SXM5 installato per sviluppo, training e fine-tuning di modelli adatti all’architettura degli acceleratori.
-
Inferenza e servizi in produzione: Fornisce calcolo parallelo e memoria dell’acceleratore per servizi di inferenza LLM, multimodali ed enterprise.
-
HPC, simulazione e analisi: Accelera calcolo scientifico, simulazione numerica, progettazione, analisi e altri carichi paralleli supportati dal sottosistema installato.
-
Pipeline ad alta intensità di dati: Combina la configurazione 12SFF/NVMe+2SFF indicata con percorsi acceleratore e rete ad alta larghezza di banda per dataset, checkpoint, staging e storage scratch locale.
Supermicro AS-8125GS-TNHR 12SFF/NVMe + 2SFF è una configurazione di storage 12SFF/NVMe+2SFF definita con precisione per le organizzazioni che richiedono questa configurazione di unità, accelerazione NVIDIA H100 SXM5 installata e una gestione affidabile del ciclo di vita enterprise.
garanzia
completi
Vogliamo assicurarci che le nostre apparecchiature siano completamente affidabili per voi. Ecco perché tutte le nostre apparecchiature (anche nuove) sono soggette a diagnostica completa, test e sostituzione dei componenti.
estremi
Carichiamo completamente le nostre apparecchiature con varie utility e software. State tranquilli, funzioneranno a lungo.
Alimentatore
I componenti funzionano a piena capacità e vengono testati per diversi giorni. Se non siamo sicuri di qualcosa, lo sostituiamo.
di tutte le apparecchiature
Le nostre normative prevedono gli stessi test sia per le apparecchiature usate che per quelle nuove. Ah, e a proposito, integriamo la garanzia ufficiale del produttore con la nostra garanzia.