Serwer Supermicro AS-8125GS-TNHR
- Stan
- New
- Producent
- Supermicro
- Format
- 8U
- RAM
- 6144GB (DDR5 ECC REG)
- GPU
- 8 x NVIDIA H100
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA H100
- Installed GPU/APU count
- 8 onboard GPUs
- Maximum GPU/APU count
- 8 onboard GPUs
- Memory per accelerator
- 80GB
- Total accelerator memory
- 640GB
- GPU memory type
- HBM3
- Accelerator memory bandwidth
- 3350 GB/s (3.35 TB/s) per GPU
- Accelerator form factor
- SXM5
- Accelerator interconnect
- NVIDIA NVLink with NVSwitch
- Accelerator-to-CPU interface
- PCIe 5.0 x16 per GPU
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8, INT8
- Accelerator virtualization
- NVIDIA vGPU, SR-IOV, GPU passthrough
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA; NVIDIA AI Enterprise-compatible
- Maximum system power
- 9kW
- Cooling
- Air cooling with up to 10 heavy-duty fans and optimal fan-speed control
- Recommended workloads
- Large-scale AI and deep learning training, LLM workloads, HPC, simulation and scientific computing
- Dimensions
- 355.6 x 437 x 843.28 mm (H x W x D)
- Weight
- 75.3 kg
Potrzebujesz konsultacji technicznej przy wyborze serwera?
Wyślij zgłoszenieSupermicro AS-8125GS-TNHR 12SFF/NVMe + 2SFF to konfiguracja pamięci masowej serwera klasy enterprise w obudowie 8U, obejmująca dwanaście przednich zatok hot-swap NVMe 2,5 cala oraz dwie przednie zatoki hot-swap SATA 2,5 cala. Jest przeznaczona dla fabryk AI, ośrodków badawczych, dostawców chmurowych i korporacyjnych centrów danych wymagających szybkiej pamięci lokalnej dla obciążeń AI i HPC.
Najważniejsze cechy:
-
Konfiguracja dysków i dostęp serwisowy: Wybrana konfiguracja pamięci masowej obejmuje dwanaście przednich zatok hot-swap NVMe 2,5 cala oraz dwie przednie zatoki hot-swap SATA 2,5 cala. Obsługiwane dyski hot-swap można serwisować od przodu bez otwierania obudowy, co pomaga skrócić planowane prace konserwacyjne.
-
Zainstalowany podsystem akceleratorów: Zainstalowany podsystem akceleratorów obejmuje 8 x NVIDIA H100 SXM5. Zapewnia łącznie 640GB HBM3 (8 x 80GB). NVIDIA NVLink czwartej generacji z NVSwitch zapewnia wysokoprzepustową komunikację w kompleksie HGX H100.
-
Topologia pamięci masowej i ścieżka danych: Dwanaście zatok NVMe tworzy wydajną warstwę danych, a dwie zatoki SATA zapewniają oddzielną warstwę serwisową lub rozruchową. Cztery dodatkowe, opcjonalne zatoki NVMe nie należą do tej konfiguracji 12NVMe+2SFF.
-
Platforma obliczeniowa klasy enterprise: Zainstalowany podsystem obliczeniowy łączy dwa procesory AMD EPYC serii 9004 z 6 144GB pamięci DDR5 ECC Registered. Zapewnia zasoby CPU, pamięci i PCIe potrzebne do obsługi akceleratorów oraz usług produkcyjnych.
-
Zarządzanie i dostępność: Dedykowana łączność BMC i narzędzia Supermicro do zarządzania cyklem życia oraz 6 nadmiarowe zasilacze 3000W (3+3) 80 PLUS Titanium wspierają zdalną administrację, monitorowanie komponentów, planowane prace serwisowe i odporną pracę w centrum danych.
Zastosowania:
-
Rozwój modeli AI: Wykorzystuje zainstalowany podsystem NVIDIA H100 SXM5 do rozwoju, trenowania i dostrajania modeli odpowiednich dla architektury akceleratorów.
-
Inferencja i usługi produkcyjne: Zapewnia obliczenia równoległe i pamięć akceleratorów dla usług inferencji LLM, multimodalnej i klasy enterprise.
-
HPC, symulacje i analityka: Przyspiesza obliczenia naukowe, symulacje numeryczne, zadania inżynierskie, analitykę i inne obciążenia równoległe obsługiwane przez zainstalowany podsystem.
-
Potoki intensywnie korzystające z danych: Łączy wskazaną konfigurację 12SFF/NVMe+2SFF z wysokoprzepustowymi ścieżkami akceleratorów i sieci dla zbiorów danych, punktów kontrolnych, stagingu i lokalnej przestrzeni roboczej.
Supermicro AS-8125GS-TNHR 12SFF/NVMe + 2SFF to precyzyjnie zdefiniowana konfiguracja pamięci masowej 12SFF/NVMe+2SFF dla organizacji potrzebujących tej konfiguracji dysków, zainstalowanej akceleracji NVIDIA H100 SXM5 oraz niezawodnego zarządzania cyklem życia klasy enterprise.
w Servermall
gwarancji
testowanie
Chcemy mieć pewność, że nasz sprzęt jest dla Ciebie w pełni niezawodny. Dlatego cały nasz sprzęt (nawet nowy) podlega pełnej diagnostyce, testowaniu i wymianie części.
testowanie
W pełni ładujemy nasz sprzęt różnymi narzędziami i oprogramowaniem. Bądź pewien, że będzie działał przez bardzo długi czas.
Zasilanie
The components work at full capacity and are tested for several days. If we are not sure about something, we replace it.
of all equipment
Our regulations imply the same testing for both used and new equipment. Oh, and by the way, we complement the official manufacturer’s warranty with our own warranty.