Serwer GIGABYTE XV23-VC0-AAJ1
- Stan
- New
- Producent
- GIGABYTE
- Format
- 2U
- RAM
- 960GB (LPDDR5x)
- GPU
- 4 x NVIDIA H100
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA H100
- Installed GPU/APU count
- 4
- Maximum GPU/APU count
- 4
- Memory per accelerator
- 80GB
- Total accelerator memory
- 320GB
- GPU memory type
- HBM2e
- Accelerator memory bandwidth
- Over 2 TB/s per GPU
- Accelerator form factor
- PCIe FHFL
- Accelerator interconnect
- PCIe peer-to-peer topology; no chassis-level NVLink fabric
- Accelerator-to-CPU interface
- PCIe 5.0 x16 per GPU
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8 and INT8
- Accelerator virtualization
- NVIDIA vGPU, SR-IOV and GPU passthrough
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA, NVIDIA AI Enterprise and NVIDIA Transformer Engine
- Maximum system power
- 8kW
- Cooling
- Air cooling with four 80 mm system fan modules and passive GPU cards
- Recommended workloads
- AI training, fine-tuning and inference, LLM and NLP workloads, HPC, simulation, analytics and data science
- Dimensions
- 87 x 438 x 900 mm (H x W x D)
- Weight
- 46.6 kg
Potrzebujesz konsultacji technicznej przy wyborze serwera?
Wyślij zgłoszenieGigabyte XV23-VC0-AAJ1 2NVMe to korporacyjna konfiguracja systemu GPU w obudowie 2U z 2 przednimi kieszeniami hot-swap 2,5 cala PCIe Gen5 NVMe. Została zaprojektowana dla fabryk AI, ośrodków badawczych, dostawców chmurowych i centrów danych potrzebujących szybkiej pamięci lokalnej dla obciążeń akcelerowanych.
Najważniejsze cechy:
-
Konfiguracja dysków i dostęp serwisowy: Obudowa ma 2 przednich kieszeni hot-swap 2,5 cala PCIe Gen5 NVMe. Obsługiwane dyski można wymieniać bez otwierania obudowy, co pomaga skrócić planowane prace serwisowe.
-
Podsystem akceleratorów: Zainstalowany podsystem akceleratorów obejmuje 4 x NVIDIA H100 PCIe 80GB i zapewnia łącznie 320GB (4 x 80GB) pamięci GPU. PCIe; w tej konfiguracji nie zastosowano dedykowanego mostka GPU-GPU.
-
Topologia pamięci masowej i ścieżka danych: Każda przednia kieszeń jest połączona z backplane NVMe PCIe Gen5 x4. 2 wewnętrzne gniazda M.2 PCIe Gen5 x4 gniazda. Taki układ usprawnia szybkie przygotowanie zbiorów danych, checkpointów i lokalnej przestrzeni roboczej bez łączenia koszyka z innym protokołem dysków.
-
Korporacyjna platforma obliczeniowa: Podsystem obliczeniowy skonfigurowano z NVIDIA Grace CPU Superchip z 2 procesorami Grace połączonymi przez NVLink-C2C 900 GB/s i 960GB pamięci CPU LPDDR5X ECC w oferowanej konfiguracji. Zapewnia zasoby CPU, pamięci i PCIe dla akceleratorów oraz usług produkcyjnych.
-
Zarządzanie i dostępność: ASPEED AST2600 BMC, dedykowana sieć zarządzająca i GIGABYTE Management Console; 2+2 x nadmiarowych zasilaczy 2000W 80 PLUS Titanium. Funkcje te wspierają zdalną administrację, monitorowanie stanu i odporną pracę systemu.
Zastosowania:
-
Rozwój modeli AI: Wykorzystuje zainstalowany podsystem NVIDIA H100 PCIe 80GB do trenowania, dostrajania i tworzenia dużych modeli.
-
Inferencja i produkcyjne usługi AI: Zapewnia obliczenia równoległe i pamięć akceleratorów dla usług inferencyjnych LLM, rozwiązań multimodalnych i zastosowań korporacyjnych.
-
HPC, symulacje i analityka: Przyspiesza obliczenia naukowe, symulacje numeryczne, analitykę i inne zadania równoległe obsługiwane przez NVIDIA H100 PCIe 80GB.
-
Potoki przetwarzania dużych zbiorów danych: Łączy 2 przednich kieszeni NVMe 2,5 cala z wysokoprzepustowymi ścieżkami GPU i sieciowymi do zbiorów danych, checkpointów, stagingu i lokalnej przestrzeni roboczej.
Gigabyte XV23-VC0-AAJ1 2NVMe to wyspecjalizowana platforma 2U dla organizacji potrzebujących 2 przednich kieszeni 2,5 cala PCIe Gen5 NVMe, 320GB (4 x 80GB) zainstalowanej pamięci GPU oraz korporacyjnych funkcji obliczeniowych i zarządzania w jednym gotowym do wdrożenia systemie.
w Servermall
gwarancji
testowanie
Chcemy mieć pewność, że nasz sprzęt jest dla Ciebie w pełni niezawodny. Dlatego cały nasz sprzęt (nawet nowy) podlega pełnej diagnostyce, testowaniu i wymianie części.
testowanie
W pełni ładujemy nasz sprzęt różnymi narzędziami i oprogramowaniem. Bądź pewien, że będzie działał przez bardzo długi czas.
Zasilanie
The components work at full capacity and are tested for several days. If we are not sure about something, we replace it.
of all equipment
Our regulations imply the same testing for both used and new equipment. Oh, and by the way, we complement the official manufacturer’s warranty with our own warranty.