Serwer GIGABYTE Gigabyte G593-SD0-AAX1
- Stan
- New
- Producent
- GIGABYTE
- Format
- 5U
- RAM
- 8192GB (DDR5 ECC REG)
- NIC card
- 2x 10GbE (Intel X710-AT2)
- GPU
- 8 x NVIDIA H100
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA H100 (HGX H100)
- Installed GPU/APU count
- 8
- Maximum GPU/APU count
- 8
- Memory per accelerator
- 80GB
- Total accelerator memory
- 640GB
- GPU memory type
- HBM3
- Accelerator memory bandwidth
- 3350GB/s (3.35TB/s) per GPU
- Accelerator form factor
- SXM5
- Accelerator interconnect
- Fourth-generation NVIDIA NVLink with NVSwitch
- Accelerator-to-CPU interface
- PCIe 5.0 x16 per GPU through the HGX baseboard
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8, INT8
- Accelerator virtualization
- NVIDIA vGPU, SR-IOV and GPU passthrough
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA, NVIDIA AI Enterprise and NVIDIA Transformer Engine
- Maximum system power
- 18kW
- Cooling
- Air cooling with passive SXM5 accelerator modules and a dedicated GPU-tray fan array
- Recommended workloads
- Generative AI and deep learning training, fine-tuning and inference, LLM and NLP workloads, HPC, simulation, analytics and data science
- Dimensions
- 219.7 x 447 x 945 mm (H x W x D)
Potrzebujesz konsultacji technicznej przy wyborze serwera?
Wyślij zgłoszenieGigabyte G593-SD0-AAX1 8SFF/NVMe to konfiguracja pamięci masowej serwera GPU klasy enterprise w obudowie 5U z 8 przednimi zatokami hot-swap 2,5 cala dla dysków PCIe Gen5 NVMe, SATA lub SAS-4. Jest przeznaczona dla fabryk AI, ośrodków badawczych, dostawców chmurowych i centrów danych wymagających szybkiej pamięci lokalnej dla obciążeń akcelerowanych.
Najważniejsze cechy:
-
Konfiguracja dysków i dostęp serwisowy: Obudowa udostępnia 8 przednich pozycji hot-swap 2,5 cala dla PCIe Gen5 NVMe, SATA lub SAS-4. Obsługiwane dyski można wymieniać bez otwierania obudowy, co pomaga skrócić planowane prace serwisowe.
-
Podsystem akceleratorów: Zainstalowany podsystem akceleratorów obejmuje 8 x NVIDIA H100 SXM5 80GB (HGX H100) i zapewnia łącznie 640GB (8 x 80GB) pamięci GPU. NVIDIA NVLink czwartej generacji z NVSwitch; 900 GB/s na GPU.
-
Topologia pamięci masowej i ścieżka danych: Każda przednia pozycja obsługuje PCIe Gen5 x4 NVMe, SATA 6Gb/s lub SAS-4 24Gb/s. Dyski SAS wymagają dodatkowej karty SAS.
-
Platforma obliczeniowa klasy enterprise: Dwugniazdowa platforma obsługuje procesory Intel Xeon Scalable 5./4. generacji lub Intel Xeon CPU Max Series i jest skonfigurowana z 8,192GB pamięci DDR5 ECC Registered w 32 gniazdach DIMM. Zapewnia zasoby CPU, pamięci i PCIe dla kompleksu akceleratorów oraz usług produkcyjnych.
-
Zarządzanie i dostępność: ASPEED AST2600 BMC, dedykowana sieć LAN zarządzania, GIGABYTE Management Console oraz 2 x 10GbE Intel X710-AT2; 4+2 x 3000W 80 PLUS Titanium redundantne zasilacze. Funkcje te wspierają zdalną administrację, monitorowanie stanu i odporną pracę systemu.
Zastosowania:
-
Trenowanie i dostrajanie modeli AI: Wykorzystuje zainstalowany podsystem NVIDIA H100 SXM5 80GB (HGX H100) do trenowania, dostrajania i rozwoju dużych modeli.
-
Inferencja i produkcyjne usługi AI: Zapewnia obliczenia równoległe i pamięć akceleratorów dla usług inferencji LLM, multimodalnej i klasy enterprise.
-
HPC, symulacje i analityka: Przyspiesza obliczenia naukowe, symulacje numeryczne, analitykę i inne obciążenia równoległe obsługiwane przez NVIDIA H100 SXM5 80GB (HGX H100).
-
Potoki intensywnie korzystające z danych: Łączy 8 przednich, wieloprotokołowych pozycji 2,5 cala z wysokoprzepustowymi ścieżkami GPU i sieciowymi dla zbiorów danych, punktów kontrolnych, stagingu i lokalnej przestrzeni roboczej.
Gigabyte G593-SD0-AAX1 8SFF/NVMe to specjalizowana platforma GPU 5U dla organizacji potrzebujących 8 przednich zatok hot-swap 2,5 cala dla dysków NVMe, SATA lub SAS-4, 640GB (8 x 80GB) zainstalowanej pamięci GPU oraz funkcji obliczeniowych i zarządzania klasy enterprise w jednym gotowym do wdrożenia systemie.
w Servermall
gwarancji
testowanie
Chcemy mieć pewność, że nasz sprzęt jest dla Ciebie w pełni niezawodny. Dlatego cały nasz sprzęt (nawet nowy) podlega pełnej diagnostyce, testowaniu i wymianie części.
testowanie
W pełni ładujemy nasz sprzęt różnymi narzędziami i oprogramowaniem. Bądź pewien, że będzie działał przez bardzo długi czas.
Zasilanie
The components work at full capacity and are tested for several days. If we are not sure about something, we replace it.
of all equipment
Our regulations imply the same testing for both used and new equipment. Oh, and by the way, we complement the official manufacturer’s warranty with our own warranty.