Serveur GIGABYTE G593-SD2-AAX1
- État
- New
- Fabricant
- GIGABYTE
- RAM
- 8192GB (DDR5 ECC REG)
- NIC card
- 2x 10GbE
- GPU
- 8 x NVIDIA H100
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA H100 SXM5 80GB (HGX H100)
- Installed GPU/APU count
- 8 GPUs
- Maximum GPU/APU count
- 8 SXM5 GPUs
- Memory per accelerator
- 80GB
- Total accelerator memory
- 640GB (8 x 80GB)
- GPU memory type
- HBM3
- Accelerator memory bandwidth
- 3,350GB/s (3.35TB/s) per GPU
- Accelerator form factor
- SXM5 modules on an NVIDIA HGX H100 baseboard
- Accelerator interconnect
- Fourth-generation NVIDIA NVLink with NVSwitch; 900GB/s per GPU
- Accelerator-to-CPU interface
- PCIe 5.0 x16 per GPU through the HGX baseboard
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8, INT8
- Accelerator virtualization
- NVIDIA vGPU, SR-IOV and GPU passthrough
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA, NVIDIA AI Enterprise and NVIDIA Transformer Engine
- Maximum system power
- 18kW installed PSU capacity (6 x 3,000W 80 PLUS Titanium power supplies), with 4+2 redundancy
- Cooling
- Air cooling with passive SXM5 accelerator modules and a dedicated GPU-tray fan array
- Recommended workloads
- Generative AI and deep learning training, fine-tuning and inference, LLM and NLP workloads, HPC, simulation, analytics and data science
- Dimensions
- 219.7 x 447 x 945 mm (H x W x D)
- Net weight
- 91 kg
Besoin d’un conseil technique pour choisir un serveur ?
Soumettre une demandeGigabyte G593-SD2-AAX1 8SFF/NVMe est une configuration de stockage pour serveur GPU d’entreprise au format 5U avec 8 baies frontales 2,5 pouces hot-swap pour disques PCIe Gen5 NVMe, SATA ou SAS-4. Elle est conçue pour les usines d’IA, centres de recherche, fournisseurs cloud et datacenters qui ont besoin d’un stockage local rapide pour les charges accélérées.
Caractéristiques principales :
-
Configuration des disques et accès de maintenance: Le châssis offre 8 emplacements frontaux 2,5 pouces hot-swap pour PCIe Gen5 NVMe, SATA ou SAS-4. Les disques pris en charge peuvent être remplacés sans ouvrir le châssis, ce qui réduit la durée des opérations de maintenance planifiées.
-
Sous-système d'accélération: Le sous-système d’accélération installé comprend 8 x NVIDIA H100 SXM5 80GB (HGX H100) et fournit au total 640GB (8 x 80GB) de mémoire GPU. NVIDIA NVLink de quatrième génération avec NVSwitch ; 900 GB/s par GPU.
-
Topologie de stockage et chemin de données: Chaque emplacement frontal prend en charge PCIe Gen5 x4 NVMe, SATA 6Gb/s ou SAS-4 24Gb/s. Une carte d’extension SAS est requise pour les disques SAS.
-
Plateforme de calcul d’entreprise: La plateforme à deux sockets prend en charge des processeurs Intel Xeon Scalable de 5e/4e génération ou Intel Xeon CPU Max Series et est configurée avec 8,192GB de mémoire DDR5 ECC Registered sur 32 logements DIMM. Elle fournit les ressources CPU, mémoire et PCIe nécessaires aux accélérateurs et aux services de production.
-
Administration et disponibilité: ASPEED AST2600 BMC, LAN d’administration dédié, GIGABYTE Management Console et 2 x 10GbE Intel X710-AT2 ; 4+2 x 3000W 80 PLUS Titanium alimentations redondantes. Ces fonctions facilitent l’administration à distance, la surveillance de l’état et la continuité de service.
Cas d'utilisation :
-
Entraînement et ajustement fin de modèles d’IA: Exploite le sous-système NVIDIA H100 SXM5 80GB (HGX H100) installé pour l’entraînement, l’ajustement fin et le développement de grands modèles.
-
Inférence et services d’IA en production: Fournit calcul parallèle et mémoire d’accélérateur pour les services d’inférence LLM, multimodaux et d’entreprise.
-
HPC, simulation et analytique: Accélère le calcul scientifique, la simulation numérique, l’analytique et les autres charges parallèles prises en charge par NVIDIA H100 SXM5 80GB (HGX H100).
-
Pipelines à forte intensité de données: Associe 8 emplacements frontaux 2,5 pouces multiprotocoles à des chemins GPU et réseau à haut débit pour les jeux de données, les checkpoints, la préparation et le stockage de travail local.
Gigabyte G593-SD2-AAX1 8SFF/NVMe est une plateforme GPU 5U conçue pour les organisations qui ont besoin de 8 baies frontales 2,5 pouces hot-swap pour disques NVMe, SATA ou SAS-4, de 640GB (8 x 80GB) de mémoire GPU installée ainsi que de fonctions de calcul et d’administration de niveau entreprise dans un système prêt à déployer.
d'acheter un serveur
chez Servermall
Nous tenons à vous garantir une fiabilité totale de nos équipements. C'est pourquoi tous nos équipements (même neufs) sont soumis à des diagnostics, des tests et des remplacements de pièces complets.
Nous équipons nos équipements de divers utilitaires et logiciels. Soyez assuré qu'ils fonctionneront très longtemps.
Alimentation
Les composants fonctionnent à pleine capacité et sont testés pendant plusieurs jours. En cas de doute, nous les remplaçons.
de tous les Ă©quipements
Nos réglementations imposent les mêmes tests pour les équipements neufs et d'occasion. Au fait, nous complétons la garantie officielle du fabricant par notre propre garantie.