Serwer Supermicro SYS-822GS-NB3RT HGX
- Stan
- New
- Producent
- Supermicro
- Format
- 8U
- CPU
- 2 x Intel Xeon 6768P (64C 336MB Cache 2.40 GHz)
- RAM
- 24 x 96GB DDR5-6400 ECC RDIMM
- Zasilacz
- 6 x 6600W Titanium (3+3)
- HDD
- 8 x 3.2TB NVMe PCIe Gen5 E1.S + 2 x 960GB NVMe PCIe 4.0 M.2
- NIC card
- 8 x NVIDIA ConnectX-8 SuperNIC 800Gb OSFP (XDR InfiniBand), 2 x NVIDIA ConnectX-6 LX 25GbE SFP28
- GPU
- 1 x NVIDIA HGX B300 NVL8 (8 GPU)
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA B300
- Installed GPU/APU count
- 8
- Maximum GPU/APU count
- 8 onboard GPUs
- Memory per accelerator
- 288GB
- Total accelerator memory
- 2304GB
- GPU memory type
- HBM3e
- Accelerator memory bandwidth
- 8000 GB/s (8 TB/s) per GPU
- Accelerator form factor
- SXM
- Accelerator interconnect
- Fifth-generation NVIDIA NVLink with NVSwitch
- Accelerator-to-CPU interface
- PCIe 5.0 x16 per GPU
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8, FP6, FP4, INT8
- Accelerator virtualization
- NVIDIA vGPU, MIG-backed vGPU and GPU passthrough
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA, CUDA-X and NGC; NVIDIA AI Enterprise-compatible
- Maximum system power
- 19.8kW
- Cooling
- Air cooling with up to 12 heavy-duty fans and optimal fan speed control
- Recommended workloads
- Large-scale AI reasoning, LLM training, fine-tuning and high-throughput inference, generative and multimodal AI, HPC and scientific computing
- Dimensions
- 356 x 449 x 950 mm (H x W x D)
- Weight
- 119 kg
Potrzebujesz konsultacji technicznej przy wyborze serwera?
Wyślij zgłoszenieSupermicro SYS-822GS-NB3RT HGX B300 NVL8 8NVMe to konfiguracja pamięci masowej serwera klasy enterprise w obudowie 8U, obejmująca osiem przednich zatok hot-swap E1.S NVMe PCIe 5.0 z ośmioma zainstalowanymi dyskami 3,2 TB oraz dwa dyski rozruchowe M.2 NVMe 960 GB. Jest przeznaczona dla fabryk AI, ośrodków badawczych, dostawców chmurowych i korporacyjnych centrów danych wymagających szybkiej pamięci lokalnej dla AI, przyspieszonej analityki i HPC.
Najważniejsze cechy:
-
Konfiguracja dysków i dostęp serwisowy: Wybrana konfiguracja pamięci masowej obejmuje osiem przednich zatok hot-swap E1.S NVMe PCIe 5.0 z ośmioma zainstalowanymi dyskami 3,2 TB oraz dwa dyski rozruchowe M.2 NVMe 960 GB. Dostęp hot-swap od przodu lub od tyłu, zależnie od wskazanych zatok, pomaga skrócić planowane prace bez otwierania głównej obudowy.
-
Zainstalowany podsystem akceleratorów: Zainstalowany podsystem akceleratorów obejmuje NVIDIA HGX B300 NVL8 (8 GPUs). Zapewnia 2 304 GB HBM3E (8 x 288 GB). NVIDIA NVLink piątej generacji z NVSwitch zapewnia do 1,8 TB/s przepustowości GPU-GPU na każdy procesor GPU.
-
Topologia pamięci masowej i ścieżka danych: Zatoki NVMe są połączone przez ścieżkę pamięci masowej PCIe platformy. Zasoby pamięci masowej, akceleratorów i sieci są przygotowane do ciągłego przesyłania zbiorów danych, punktów kontrolnych i danych roboczych.
-
Platforma obliczeniowa klasy enterprise: Podsystem obliczeniowy łączy 2 x Intel Xeon 6768P (64 rdzeni, 2.4 GHz) z 2 304 GB pamięci DDR5-6400 ECC Registered (24 x 96 GB). Zapewnia zasoby CPU, pamięci i PCIe potrzebne do obsługi kompleksu akceleratorów oraz usług produkcyjnych.
-
Zarządzanie i dostępność: Dedykowana łączność BMC i narzędzia Supermicro do zarządzania cyklem życia oraz 6 x 6600 W nadmiarowe (3+3) zasilacze klasy Titanium wspierają zdalną administrację, monitorowanie komponentów, planowane prace serwisowe i odporną pracę w centrum danych.
Zastosowania:
-
Trenowanie i dostrajanie modeli AI: Wykorzystuje zainstalowany podsystem NVIDIA HGX B300 NVL8 do deep learningu, generatywnej AI i rozwoju dużych modeli.
-
Inferencja i produkcyjne usługi AI: Zapewnia pamięć akceleratorów i obliczenia równoległe dla obciążeń LLM, multimodalnych oraz inferencji klasy enterprise.
-
HPC, symulacje i analityka: Przyspiesza obliczenia naukowe, symulacje numeryczne, zadania inżynierskie, analitykę i inne obciążenia równoległe obsługiwane przez zainstalowany podsystem.
-
Potoki intensywnie korzystające z danych: Łączy wskazaną konfigurację pamięci masowej 8NVMe z wysokoprzepustowymi ścieżkami akceleratorów i sieci dla zbiorów danych, punktów kontrolnych, stagingu i lokalnej przestrzeni roboczej.
Supermicro SYS-822GS-NB3RT HGX B300 NVL8 8NVMe to specjalizowana platforma 8U dla organizacji potrzebujących wskazanej konfiguracji pamięci masowej, zainstalowanej akceleracji NVIDIA HGX B300 NVL8 i zarządzania cyklem życia klasy enterprise w jednym wdrażalnym systemie.
w Servermall
gwarancji
testowanie
Chcemy mieć pewność, że nasz sprzęt jest dla Ciebie w pełni niezawodny. Dlatego cały nasz sprzęt (nawet nowy) podlega pełnej diagnostyce, testowaniu i wymianie części.
testowanie
W pełni ładujemy nasz sprzęt różnymi narzędziami i oprogramowaniem. Bądź pewien, że będzie działał przez bardzo długi czas.
Zasilanie
The components work at full capacity and are tested for several days. If we are not sure about something, we replace it.
of all equipment
Our regulations imply the same testing for both used and new equipment. Oh, and by the way, we complement the official manufacturer’s warranty with our own warranty.