Serwer MSI CG480-S5063 20NVMe
- Stan
- New
- Producent
- MSI
- Format
- 4U
- CPU
- 2x Intel Xeon 6767P (64C 336M Cache 2.40 GHz)
- RAM
- 32x 64GB DDR5 RDIMM 6400MHz (Support up to 32 DIMM xrtov DDR5)
- Zasilacz
- 4x 3200W Titanium
- HDD
- 8x 3.84TB NVMe E1.S PCIe 5.0 x4/ 2x 960GB NVMe M.2 PCIe 5.0 x2 (up to 20 HDD 2.5'' NVMe)
- GPU
- 8 x NVIDIA H200 NVL
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA H200 NVL
- Installed GPU count
- 8
- Maximum GPU count
- 8
- Memory per GPU
- 141GB
- Total GPU memory
- 1128GB
- GPU memory type
- HBM3e
- GPU memory bandwidth
- 4.8TB/s per GPU
- GPU form factor
- PCIe
- GPU interconnect
- PCIe 5.0 host fabric
- GPU-to-CPU interface
- PCIe 5.0 x16 per GPU
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8, INT8
- GPU virtualization
- NVIDIA vGPU, MIG-backed vGPU, SR-IOV and GPU passthrough with the applicable NVIDIA AI Enterprise software stack
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA; NVIDIA AI Enterprise included with H200 NVL; NVIDIA NIM and NGC software ecosystem
- Maximum system power
- 12.8kW
- Cooling
- Air cooling; passive dual-slot accelerators cooled by directed high-volume chassis airflow
- Recommended workloads
- Generative AI and LLM inference, AI model training and fine-tuning, retrieval-augmented generation, HPC, simulation, analytics, computer vision and NVIDIA Omniverse workloads
- Dimensions
- 438.5 x 175 x 800 mm (W x H x D)
Potrzebujesz konsultacji technicznej przy wyborze serwera?
Wyślij zgłoszenieMSI CG480-S5063 20NVMe to wysokiej gęstości konfiguracja pamięci masowej serwera GPU klasy enterprise 4U z dwadzieścia dostępnych od przodu kieszeni hot-swap E1.S NVMe PCIe 5.0 x4. Rozwiązanie jest przeznaczone dla fabryk AI, dostawców chmury, ośrodków badawczych i centrów danych potrzebujących szybkiej lokalnej warstwy danych do trenowania, dostrajania i inferencji.
Najważniejsze cechy:
-
Koszyk dyskowy i dostęp serwisowy: Konfiguracja udostępnia dwadzieścia dostępnych od przodu kieszeni hot-swap E1.S NVMe PCIe 5.0 x4. Dostęp hot-swap od przodu umożliwia planowaną wymianę nośników bez otwierania obudowy.
-
Topologia pamięci masowej: Konfiguracja obejmuje 8 dysków SSD E1.S NVMe PCIe 5.0 x4 o pojemności 3,84 TB oraz 2 dyski SSD M.2 NVMe PCIe 5.0 x2 o pojemności 960 GB, oddzielając szybką przednią warstwę danych od wewnętrznej pamięci systemowej.
-
Zainstalowany podsystem akceleratorów: Zainstalowany podsystem obejmuje 8 akceleratorów NVIDIA H200 NVL do długotrwałych obciążeń AI i obliczeń akcelerowanych.
-
Platforma obliczeniowa klasy enterprise: Podsystem obliczeniowy wykorzystuje 2 procesory Intel Xeon 6767P i 32 moduły RDIMM DDR5-6400 po 64 GB, zapewniając 2048 GB pamięci systemowej dla układu ośmiu GPU.
-
Zarządzanie, sieć i dostępność: BMC ASPEED AST2600 z IPMI 2.0 i Redfish, dwa porty 10GBase-T oraz 4 zasilacze 3200 W 80 PLUS Titanium wspierają zdalne zarządzanie, sieć produkcyjną i odporną pracę.
Zastosowania:
-
Trenowanie i dostrajanie modeli AI: Wykorzystuje zainstalowany podsystem akceleratorów do deep learningu, generatywnej AI i rozwoju dużych modeli.
-
Inferencja i produkcyjne usługi AI: Zapewnia obliczenia równoległe i pamięć akceleratorów dla obciążeń LLM, multimodalnych i firmowej inferencji.
-
HPC i obliczenia naukowe: Przyspiesza symulacje, analizę numeryczną i inne silnie równoległe obciążenia.
-
Potoki AI intensywnie korzystające z danych: Łączy szybką lokalną pamięć masową z wysokoprzepustowymi ścieżkami obliczeniowymi i sieciowymi dla zbiorów danych, punktów kontrolnych i danych roboczych.
MSI CG480-S5063 20NVMe to wyspecjalizowana konfiguracja pamięci masowej dla organizacji potrzebujących dwudziestu kieszeni hot-swap E1.S NVMe, 8 zainstalowanych akceleratorów NVIDIA H200 NVL i dwuprocesorowej platformy Xeon 6 w systemie 4U.
w Servermall
gwarancji
testowanie
Chcemy mieć pewność, że nasz sprzęt jest dla Ciebie w pełni niezawodny. Dlatego cały nasz sprzęt (nawet nowy) podlega pełnej diagnostyce, testowaniu i wymianie części.
testowanie
W pełni ładujemy nasz sprzęt różnymi narzędziami i oprogramowaniem. Bądź pewien, że będzie działał przez bardzo długi czas.
Zasilanie
The components work at full capacity and are tested for several days. If we are not sure about something, we replace it.
of all equipment
Our regulations imply the same testing for both used and new equipment. Oh, and by the way, we complement the official manufacturer’s warranty with our own warranty.