Serveur GIGABYTE G593-ZD2-AAX1
- État
- New
- Fabricant
- GIGABYTE
- RAM
- 6144GB (DDR5 ECC REG)
- NIC card
- 2x 10GbE
- GPU
- 8 x NVIDIA H100
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA H100 (HGX H100)
- Installed GPU/APU count
- 8
- Maximum GPU/APU count
- 8
- Memory per accelerator
- 80GB
- Total accelerator memory
- 640GB
- GPU memory type
- HBM3
- Accelerator memory bandwidth
- 3350GB/s (3.35TB/s) per GPU
- Accelerator form factor
- SXM5
- Accelerator interconnect
- Fourth-generation NVIDIA NVLink with NVSwitch
- Accelerator-to-CPU interface
- PCIe 5.0 x16 per GPU
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8, INT8
- Accelerator virtualization
- NVIDIA vGPU, SR-IOV and GPU passthrough
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA, NVIDIA AI Enterprise and NVIDIA Transformer Engine
- Maximum system power
- 18kW
- Cooling
- Air cooling with passive SXM5 accelerator modules and a dedicated GPU-tray fan array
- Recommended workloads
- Generative AI and deep learning training, fine-tuning and inference, LLM and NLP workloads, HPC, simulation, analytics and data science
- Dimensions
- 219.7 x 447 x 945 mm (H x W x D)
- Weight
- 91 kg
Besoin d’un conseil technique pour choisir un serveur ?
Soumettre une demandeGigabyte G593-ZD2-AAX1 8SFF/NVNe est une configuration de stockage pour serveur GPU d’entreprise au format 5U avec 8 baies frontales 2,5 pouces hot-swap pour disques PCIe Gen5 NVMe, SATA ou SAS-4. Elle est conçue pour les usines d’IA, centres de recherche, fournisseurs cloud et datacenters qui ont besoin d’un stockage local rapide pour les charges accélérées.
Caractéristiques principales :
-
Configuration des disques et accès de maintenance: Le châssis offre 8 emplacements frontaux 2,5 pouces hot-swap pour PCIe Gen5 NVMe, SATA ou SAS-4. Les disques pris en charge peuvent être remplacés sans ouvrir le châssis, ce qui réduit la durée des opérations de maintenance planifiées.
-
Sous-système d'accélération: Le sous-système d’accélération installé comprend 8 x NVIDIA H100 SXM5 80GB (HGX H100) et fournit au total 640GB (8 x 80GB) de mémoire GPU. NVIDIA NVLink de quatrième génération avec NVSwitch ; 900 GB/s par GPU.
-
Topologie de stockage et chemin de données: Chaque emplacement frontal prend en charge PCIe Gen5 x4 NVMe, SATA 6Gb/s ou SAS-4 24Gb/s. Un contrôleur de stockage compatible est requis pour les disques SATA et SAS. Deux logements M.2 internes offrent des liaisons PCIe Gen3 x4 et x1.
-
Plateforme de calcul d’entreprise: La plateforme à deux sockets prend en charge des processeurs AMD EPYC des séries 9005 ou 9004 et est configurée avec 6,144GB de mémoire DDR5 ECC Registered sur 24 logements DIMM. Elle fournit les ressources CPU, mémoire et PCIe nécessaires aux accélérateurs et aux services de production.
-
Administration et disponibilité: ASPEED AST2600 BMC, LAN d’administration dédié, GIGABYTE Management Console et 2 x 10GbE Intel X710-AT2 ; 4+2 x 3000W 80 PLUS Titanium alimentations redondantes. Ces fonctions facilitent l’administration à distance, la surveillance de l’état et la continuité de service.
Cas d'utilisation :
-
Entraînement et ajustement fin de modèles d’IA: Exploite le sous-système NVIDIA H100 SXM5 80GB (HGX H100) installé pour l’entraînement, l’ajustement fin et le développement de grands modèles.
-
Inférence et services d’IA en production: Fournit calcul parallèle et mémoire d’accélérateur pour les services d’inférence LLM, multimodaux et d’entreprise.
-
HPC, simulation et analytique: Accélère le calcul scientifique, la simulation numérique, l’analytique et les autres charges parallèles prises en charge par NVIDIA H100 SXM5 80GB (HGX H100).
-
Pipelines à forte intensité de données: Associe 8 emplacements frontaux 2,5 pouces multiprotocoles à des chemins GPU et réseau à haut débit pour les jeux de données, les checkpoints, la préparation et le stockage de travail local.
Gigabyte G593-ZD2-AAX1 8SFF/NVNe est une plateforme GPU 5U conçue pour les organisations qui ont besoin de 8 baies frontales 2,5 pouces hot-swap pour disques NVMe, SATA ou SAS-4, de 640GB (8 x 80GB) de mémoire GPU installée ainsi que de fonctions de calcul et d’administration de niveau entreprise dans un système prêt à déployer.
d'acheter un serveur
chez Servermall
Nous tenons à vous garantir une fiabilité totale de nos équipements. C'est pourquoi tous nos équipements (même neufs) sont soumis à des diagnostics, des tests et des remplacements de pièces complets.
Nous équipons nos équipements de divers utilitaires et logiciels. Soyez assuré qu'ils fonctionneront très longtemps.
Alimentation
Les composants fonctionnent à pleine capacité et sont testés pendant plusieurs jours. En cas de doute, nous les remplaçons.
de tous les Ă©quipements
Nos réglementations imposent les mêmes tests pour les équipements neufs et d'occasion. Au fait, nous complétons la garantie officielle du fabricant par notre propre garantie.