Serwer GIGABYTE H223-V10-AAW1
- Stan
- New
- Producent
- GIGABYTE
- Format
- 2U
- RAM
- 960GB (LPDDR5x)
- NIC card
- 4x 10GbE (Intel X550-AT2)
- GPU
- 2 x NVIDIA GH200 (Hopper)
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA GH200 Grace Hopper Superchip
- Installed GPU/APU count
- 2
- Maximum GPU/APU count
- 2
- Memory per accelerator
- 96GB
- Total accelerator memory
- 192GB
- GPU memory type
- HBM3
- Accelerator memory bandwidth
- 4 TB/s per GPU
- Accelerator form factor
- Integrated NVIDIA Grace Hopper Superchip
- Accelerator interconnect
- No chassis-wide GPU-to-GPU fabric; each GPU is integrated with its Grace CPU through NVIDIA NVLink-C2C
- Accelerator-to-CPU interface
- NVIDIA NVLink-C2C coherent interface
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8 and INT8
- Accelerator virtualization
- GPU passthrough and containerized CUDA workloads; NVIDIA vGPU availability depends on the deployed software stack
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA, NVIDIA AI Enterprise and the NVIDIA Grace Hopper software platform
- Maximum system power
- 9kW
- Cooling
- Air cooling with four 80 mm system fan modules
- Recommended workloads
- Large-model AI training and inference, scientific computing, HPC, simulation, analytics and memory-intensive accelerated workloads
- Dimensions
- 87.5 x 440 x 850 mm (H x W x D)
- Weight
- 50.91 kg
Potrzebujesz konsultacji technicznej przy wyborze serwera?
Wyślij zgłoszenieGigabyte H223-V10-AAW1 8NVMe to korporacyjna konfiguracja systemu GPU w obudowie 2U two-node z ośmioma przednimi kieszeniami hot-swap 2,5 cala PCIe Gen5 NVMe rozdzielonymi między dwa niezależne węzły. Została zaprojektowana dla klastrów AI i HPC, ośrodków badawczych oraz centrów danych potrzebujących dwóch węzłów Grace Hopper w kompaktowej obudowie.
Najważniejsze cechy:
-
Konfiguracja dysków i dostęp serwisowy: Obudowa ma osiem przednich kieszeni hot-swap 2,5 cala PCIe Gen5 NVMe, po cztery dla każdego węzła. Dostęp od przodu umożliwia wymianę obsługiwanych dysków bez otwierania obudowy i zachowuje niezależność serwisową węzłów.
-
Podsystem akceleratorów: Zainstalowany podsystem akceleratorów obejmuje 2 x NVIDIA GH200 Grace Hopper Superchip i zapewnia łącznie 192GB HBM3 or 288GB HBM3E across two nodes pamięci GPU. NVIDIA NVLink-C2C wewnątrz każdego układu Grace Hopper Superchip; 900 GB/s.
-
Topologia pamięci masowej i ścieżka danych: Każdy węzeł otrzymuje cztery bezpośrednio podłączone kieszenie PCIe Gen5 NVMe. 4 wewnętrzne gniazda M.2 PCIe Gen5 x4 (2 na węzeł). Taki układ usprawnia szybkie przygotowanie zbiorów danych, checkpointów i lokalnej przestrzeni roboczej bez łączenia koszyka z innym protokołem dysków.
-
Korporacyjna platforma obliczeniowa: Podsystem obliczeniowy skonfigurowano z 2 x procesory NVIDIA Grace z 72 rdzeniami, po jednym na węzeł i 960GB pamięci CPU LPDDR5X ECC (480GB na węzeł). Zapewnia zasoby CPU, pamięci i PCIe dla akceleratorów oraz usług produkcyjnych.
-
Zarządzanie i dostępność: ASPEED AST2600 BMC i GIGABYTE Management Console for each node; 2+1 x nadmiarowych zasilaczy 3000W 80 PLUS Titanium. Funkcje te wspierają zdalną administrację, monitorowanie stanu i odporną pracę systemu.
Zastosowania:
-
Rozwój modeli AI: Wykorzystuje zainstalowany podsystem NVIDIA GH200 Grace Hopper Superchip do trenowania, dostrajania i tworzenia dużych modeli.
-
Inferencja i produkcyjne usługi AI: Zapewnia obliczenia równoległe i pamięć akceleratorów dla usług inferencyjnych LLM, rozwiązań multimodalnych i zastosowań korporacyjnych.
-
HPC, symulacje i analityka: Przyspiesza obliczenia naukowe, symulacje numeryczne, analitykę i inne zadania równoległe obsługiwane przez NVIDIA GH200 Grace Hopper Superchip.
-
Potoki przetwarzania dużych zbiorów danych: Łączy osiem przednich kieszeni NVMe w dwóch węzłach ze spójnym systemem obliczeniowym Grace Hopper do zbiorów danych, checkpointów, stagingu i lokalnej przestrzeni roboczej.
Gigabyte H223-V10-AAW1 8NVMe to wyspecjalizowana platforma 2U two-node dla organizacji potrzebujących ośmiu przednich kieszeni hot-swap NVMe w dwóch niezależnych węzłach, 192GB HBM3 or 288GB HBM3E across two nodes zainstalowanej pamięci GPU oraz korporacyjnych funkcji obliczeniowych i zarządzania w jednym gotowym do wdrożenia systemie.
w Servermall
gwarancji
testowanie
Chcemy mieć pewność, że nasz sprzęt jest dla Ciebie w pełni niezawodny. Dlatego cały nasz sprzęt (nawet nowy) podlega pełnej diagnostyce, testowaniu i wymianie części.
testowanie
W pełni ładujemy nasz sprzęt różnymi narzędziami i oprogramowaniem. Bądź pewien, że będzie działał przez bardzo długi czas.
Zasilanie
The components work at full capacity and are tested for several days. If we are not sure about something, we replace it.
of all equipment
Our regulations imply the same testing for both used and new equipment. Oh, and by the way, we complement the official manufacturer’s warranty with our own warranty.