Serwer GIGABYTE XH23-VG0-AAJ1
- Stan
- New
- Producent
- GIGABYTE
- Format
- 2U
- RAM
- 480GB (LPDDR5x)
- NIC card
- 2x 10GbE (Intel X550-AT2)
- GPU
- 1 x NVIDIA GH200 (Hopper)
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA GH200 Grace Hopper Superchip
- Installed GPU/APU count
- 1
- Maximum GPU/APU count
- 1 integrated GPU
- Memory per accelerator
- 96GB
- Total accelerator memory
- 96GB
- GPU memory type
- HBM3
- Accelerator memory bandwidth
- 4 TB/s
- Accelerator form factor
- Integrated NVIDIA Grace Hopper Superchip
- Accelerator interconnect
- Single integrated GPU; NVIDIA NVLink-C2C connects the Hopper GPU and Grace CPU
- Accelerator-to-CPU interface
- NVIDIA NVLink-C2C coherent interface
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8 and INT8
- Accelerator virtualization
- GPU passthrough and containerized CUDA workloads; NVIDIA vGPU availability depends on the deployed software stack
- MIG support
- Up to 7 isolated GPU instances
- Software ecosystem
- NVIDIA CUDA, NVIDIA AI Enterprise and the NVIDIA Grace Hopper software platform
- Maximum system power
- 4kW
- Cooling
- Air cooling with three 60 mm and four 80 mm system fan modules
- Recommended workloads
- Large-model AI training and inference, scientific computing, HPC, simulation, analytics and memory-intensive accelerated workloads
- Dimensions
- 87 x 438 x 900 mm (H x W x D)
- Weight
- 27.6 kg
Potrzebujesz konsultacji technicznej przy wyborze serwera?
Wyślij zgłoszenieGigabyte XH23-VG0-AAJ1 4NVMe to korporacyjna konfiguracja systemu GPU w obudowie 2U z 4 przednimi kieszeniami hot-swap 2,5 cala PCIe Gen5 NVMe. Została zaprojektowana dla fabryk AI, ośrodków badawczych, dostawców chmurowych i centrów danych potrzebujących szybkiej pamięci lokalnej dla obciążeń akcelerowanych.
Najważniejsze cechy:
-
Konfiguracja dysków i dostęp serwisowy: Obudowa ma 4 przednich kieszeni hot-swap 2,5 cala PCIe Gen5 NVMe. Obsługiwane dyski można wymieniać bez otwierania obudowy, co pomaga skrócić planowane prace serwisowe.
-
Podsystem akceleratorów: Zainstalowany podsystem akceleratorów obejmuje 1 x NVIDIA GH200 Grace Hopper Superchip i zapewnia łącznie 96GB HBM3 or 144GB HBM3E pamięci GPU. Jeden zintegrowany GPU; NVIDIA NVLink-C2C łączy GPU z procesorem Grace.
-
Topologia pamięci masowej i ścieżka danych: Każda przednia kieszeń jest połączona z backplane NVMe PCIe Gen5 x4. 2 wewnętrzne gniazda M.2 PCIe Gen5 x4 gniazda. Taki układ usprawnia szybkie przygotowanie zbiorów danych, checkpointów i lokalnej przestrzeni roboczej bez łączenia koszyka z innym protokołem dysków.
-
Korporacyjna platforma obliczeniowa: Podsystem obliczeniowy skonfigurowano z 1 x procesor NVIDIA Grace z 72 rdzeniami zintegrowany z GH200 Superchip i 480GB pamięci CPU LPDDR5X ECC. Zapewnia zasoby CPU, pamięci i PCIe dla akceleratorów oraz usług produkcyjnych.
-
Zarządzanie i dostępność: GIGABYTE Management Console i dedykowana sieć zarządzająca; 1+1 x nadmiarowych zasilaczy 2000W 80 PLUS Titanium. Funkcje te wspierają zdalną administrację, monitorowanie stanu i odporną pracę systemu.
Zastosowania:
-
Rozwój modeli AI: Wykorzystuje zainstalowany podsystem NVIDIA GH200 Grace Hopper Superchip do trenowania, dostrajania i tworzenia dużych modeli.
-
Inferencja i produkcyjne usługi AI: Zapewnia obliczenia równoległe i pamięć akceleratorów dla usług inferencyjnych LLM, rozwiązań multimodalnych i zastosowań korporacyjnych.
-
HPC, symulacje i analityka: Przyspiesza obliczenia naukowe, symulacje numeryczne, analitykę i inne zadania równoległe obsługiwane przez NVIDIA GH200 Grace Hopper Superchip.
-
Potoki przetwarzania dużych zbiorów danych: Łączy 4 przednich kieszeni NVMe 2,5 cala z wysokoprzepustowymi ścieżkami GPU i sieciowymi do zbiorów danych, checkpointów, stagingu i lokalnej przestrzeni roboczej.
Gigabyte XH23-VG0-AAJ1 4NVMe to wyspecjalizowana platforma 2U dla organizacji potrzebujących 4 przednich kieszeni 2,5 cala PCIe Gen5 NVMe, 96GB HBM3 or 144GB HBM3E zainstalowanej pamięci GPU oraz korporacyjnych funkcji obliczeniowych i zarządzania w jednym gotowym do wdrożenia systemie.
w Servermall
gwarancji
testowanie
Chcemy mieć pewność, że nasz sprzęt jest dla Ciebie w pełni niezawodny. Dlatego cały nasz sprzęt (nawet nowy) podlega pełnej diagnostyce, testowaniu i wymianie części.
testowanie
W pełni ładujemy nasz sprzęt różnymi narzędziami i oprogramowaniem. Bądź pewien, że będzie działał przez bardzo długi czas.
Zasilanie
The components work at full capacity and are tested for several days. If we are not sure about something, we replace it.
of all equipment
Our regulations imply the same testing for both used and new equipment. Oh, and by the way, we complement the official manufacturer’s warranty with our own warranty.