Server Supermicro AS-8125GS-TNHR
- Zustand
- New
- Hersteller
- Supermicro
- Bauform
- 8U
- RAM
- 6144GB (DDR5 ECC REG)
- GPU
- 8 x NVIDIA H100
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA H100
- Installed GPU/APU count
- 8 onboard GPUs
- Maximum GPU/APU count
- 8 onboard GPUs
- Memory per accelerator
- 80GB
- Total accelerator memory
- 640GB
- GPU memory type
- HBM3
- Accelerator memory bandwidth
- 3350 GB/s (3.35 TB/s) per GPU
- Accelerator form factor
- SXM5
- Accelerator interconnect
- NVIDIA NVLink with NVSwitch
- Accelerator-to-CPU interface
- PCIe 5.0 x16 per GPU
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8, INT8
- Accelerator virtualization
- NVIDIA vGPU, SR-IOV, GPU passthrough
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA; NVIDIA AI Enterprise-compatible
- Maximum system power
- 9kW
- Cooling
- Air cooling with up to 10 heavy-duty fans and optimal fan-speed control
- Recommended workloads
- Large-scale AI and deep learning training, LLM workloads, HPC, simulation and scientific computing
- Dimensions
- 355.6 x 437 x 843.28 mm (H x W x D)
- Weight
- 75.3 kg
Benötigen Sie eine technische Beratung zur Serverauswahl?
Anfrage einreichenSupermicro AS-8125GS-TNHR 12SFF/NVMe + 2SFF ist eine 8U-Enterprise-Server-Speicherkonfiguration mit zwölf frontseitigen 2,5-Zoll-NVMe-Hot-Swap-Einschüben sowie zwei frontseitigen 2,5-Zoll-SATA-Hot-Swap-Einschüben. Sie richtet sich an KI-Fabriken, Forschungszentren, Cloud-Anbieter und Unternehmensrechenzentren, die schnellen lokalen Speicher für KI- und HPC-Workloads benötigen.
Hauptmerkmale:
-
Laufwerkskonfiguration und Servicezugang: Die ausgewählte Laufwerkskonfiguration ist mit zwölf frontseitigen 2,5-Zoll-NVMe-Hot-Swap-Einschüben sowie zwei frontseitigen 2,5-Zoll-SATA-Hot-Swap-Einschüben ausgestattet. Unterstützte Hot-Swap-Laufwerke lassen sich frontseitig ohne Öffnen des Gehäuses warten, wodurch geplante Wartungszeiten verkürzt werden können.
-
Installiertes Beschleunigersubsystem: Das installierte Beschleunigersubsystem umfasst 8 x NVIDIA H100 SXM5. Es stellt insgesamt 640GB HBM3 (8 x 80GB) bereit. NVIDIA NVLink der vierten Generation mit NVSwitch ermöglicht eine Kommunikation hoher Bandbreite im HGX-H100-Beschleunigerkomplex.
-
Speichertopologie und Datenpfad: Zwölf NVMe-Einschübe bilden die leistungsfähige Datenebene und zwei SATA-Einschübe eine getrennte Service- oder Boot-Ebene. Die optionalen vier zusätzlichen NVMe-Einschübe gehören nicht zu dieser 12NVMe+2SFF-Konfiguration.
-
Enterprise-Rechenplattform: Das installierte Rechensubsystem kombiniert zwei AMD-EPYC-Prozessoren der Serie 9004 mit 6.144GB DDR5 ECC Registered-Speicher. Es stellt die CPU-, Speicher- und PCIe-Ressourcen für das Beschleunigersubsystem und produktive Dienste bereit.
-
Management und Verfügbarkeit: Dedizierte BMC-Anbindung und Supermicro-Tools für das Lifecycle-Management sowie 6 redundante 3000W-Netzteile (3+3) mit 80 PLUS Titanium unterstützen Fernadministration, Komponentenüberwachung, geplante Servicearbeiten und einen ausfallsicheren Rechenzentrumsbetrieb.
Einsatzbereiche:
-
Entwicklung von KI-Modellen: Nutzt das installierte NVIDIA H100 SXM5-Subsystem für Modellentwicklung, Training und Fine-Tuning, soweit diese Workloads zur Beschleunigerarchitektur passen.
-
Inferenz und produktive Dienste: Stellt Parallelrechenleistung und Beschleunigerspeicher für LLM-, multimodale und unternehmensweite Inferenzdienste bereit.
-
HPC, Simulation und Analytik: Beschleunigt wissenschaftliches Rechnen, numerische Simulationen, Engineering, Analytik und weitere vom installierten Beschleunigersubsystem unterstützte parallele Workloads.
-
Datenintensive Pipelines: Kombiniert die angegebene 12SFF/NVMe+2SFF-Laufwerkskonfiguration mit Beschleuniger- und Netzwerkpfaden hoher Bandbreite für Datensätze, Checkpoints, Staging und lokalen Scratch-Speicher.
Supermicro AS-8125GS-TNHR 12SFF/NVMe + 2SFF ist eine präzise definierte 12SFF/NVMe+2SFF-Speicherkonfiguration für Unternehmen, die diese Laufwerkskonfiguration, installierte NVIDIA H100 SXM5-Beschleunigung und zuverlässiges Enterprise-Lifecycle-Management benötigen.
einen Server bei Servermall zu kaufen
Garantie
Wir möchten sicherstellen, dass unsere Geräte für Sie absolut zuverlässig sind. Deshalb werden alle unsere Geräte (auch neue) umfassend diagnostiziert, getestet und Teile ausgetauscht.
Tests
Wir statten unsere Geräte mit verschiedenen Dienstprogrammen und Software aus. Sie werden garantiert lange funktionieren.
Stromversorgung
Die Komponenten arbeiten mit voller Leistung und werden mehrere Tage lang getestet. Bei Zweifeln tauschen wir sie aus.
aller Geräte
Unsere Vorschriften sehen die gleichen Prüfungen für gebrauchte und neue Geräte vor. Übrigens: Wir ergänzen die offizielle Herstellergarantie durch unsere eigene Garantie.