Serveur GIGABYTE H223-V10-AAW1
- État
- New
- Fabricant
- GIGABYTE
- Format
- 2U
- RAM
- 960GB (LPDDR5x)
- NIC card
- 4x 10GbE (Intel X550-AT2)
- GPU
- 2 x NVIDIA GH200 (Hopper)
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA GH200 Grace Hopper Superchip
- Installed GPU/APU count
- 2
- Maximum GPU/APU count
- 2
- Memory per accelerator
- 96GB
- Total accelerator memory
- 192GB
- GPU memory type
- HBM3
- Accelerator memory bandwidth
- 4 TB/s per GPU
- Accelerator form factor
- Integrated NVIDIA Grace Hopper Superchip
- Accelerator interconnect
- No chassis-wide GPU-to-GPU fabric; each GPU is integrated with its Grace CPU through NVIDIA NVLink-C2C
- Accelerator-to-CPU interface
- NVIDIA NVLink-C2C coherent interface
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8 and INT8
- Accelerator virtualization
- GPU passthrough and containerized CUDA workloads; NVIDIA vGPU availability depends on the deployed software stack
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA, NVIDIA AI Enterprise and the NVIDIA Grace Hopper software platform
- Maximum system power
- 9kW
- Cooling
- Air cooling with four 80 mm system fan modules
- Recommended workloads
- Large-model AI training and inference, scientific computing, HPC, simulation, analytics and memory-intensive accelerated workloads
- Dimensions
- 87.5 x 440 x 850 mm (H x W x D)
- Weight
- 50.91 kg
Besoin d’un conseil technique pour choisir un serveur ?
Soumettre une demandeGigabyte H223-V10-AAW1 8NVMe est une configuration de système GPU d'entreprise au format 2U two-node avec huit emplacements frontaux 2,5 pouces PCIe Gen5 NVMe hot-swap répartis entre deux nœuds indépendants. Elle est conçue pour les clusters d'IA et de HPC, les centres de recherche et les datacenters qui ont besoin de deux nœuds Grace Hopper dans un châssis compact.
Caractéristiques principales :
-
Configuration des disques et accès de maintenance: Le châssis offre huit emplacements frontaux 2,5 pouces PCIe Gen5 NVMe hot-swap, quatre affectés à chaque nœud. L'accès frontal permet de remplacer les disques compatibles sans ouvrir le châssis tout en conservant une maintenance séparée par nœud.
-
Sous-système d'accélération: Le sous-système d'accélération installé comprend 2 x NVIDIA GH200 Grace Hopper Superchip et fournit au total 192GB HBM3 or 288GB HBM3E across two nodes de mémoire GPU. NVIDIA NVLink-C2C au sein de chaque Grace Hopper Superchip ; 900 GB/s.
-
Topologie de stockage et chemin de données: Chaque nœud dispose de quatre baies NVMe PCIe Gen5 directement connectées. 4 emplacements M.2 internes PCIe Gen5 x4 (2 par nœud). Cette organisation facilite le chargement rapide des jeux de données, des checkpoints et du stockage de travail local sans associer la baie à un autre protocole de disque.
-
Plateforme de calcul d’entreprise: Le sous-système de calcul est configuré avec 2 x CPU NVIDIA Grace à 72 cœurs, un par nœud et 960GB mémoire CPU LPDDR5X ECC (480GB par nœud). Il fournit les ressources CPU, mémoire et PCIe nécessaires aux accélérateurs et aux services de production.
-
Administration et disponibilité: ASPEED AST2600 BMC et GIGABYTE Management Console for each node; 2+1 x alimentations redondantes 3000W 80 PLUS Titanium. Ces fonctions facilitent l'administration à distance, la surveillance de l'état et la continuité de service.
Cas d'utilisation :
-
Développement de modèles d’IA: Exploite le sous-système NVIDIA GH200 Grace Hopper Superchip installé pour l'entraînement, l'ajustement fin et le développement de grands modèles.
-
Inférence et IA en production: Fournit calcul parallèle et mémoire d'accélérateur pour les services d'inférence LLM, multimodaux et d'entreprise.
-
HPC, simulation et analytique: Accélère le calcul scientifique, la simulation numérique, l'analytique et les autres charges parallèles prises en charge par NVIDIA GH200 Grace Hopper Superchip.
-
Pipelines à forte intensité de données: Associe huit baies NVMe frontales réparties sur deux nœuds au calcul cohérent Grace Hopper pour les jeux de données, les checkpoints, la préparation et l'espace de travail local.
Gigabyte H223-V10-AAW1 8NVMe est une plateforme 2U two-node conçue pour les organisations qui ont besoin de huit baies NVMe frontales hot-swap réparties sur deux nœuds indépendants, de 192GB HBM3 or 288GB HBM3E across two nodes de mémoire GPU installée ainsi que de fonctions de calcul et d'administration de niveau entreprise dans un système prêt à déployer.
d'acheter un serveur
chez Servermall
Nous tenons à vous garantir une fiabilité totale de nos équipements. C'est pourquoi tous nos équipements (même neufs) sont soumis à des diagnostics, des tests et des remplacements de pièces complets.
Nous équipons nos équipements de divers utilitaires et logiciels. Soyez assuré qu'ils fonctionneront très longtemps.
Alimentation
Les composants fonctionnent à pleine capacité et sont testés pendant plusieurs jours. En cas de doute, nous les remplaçons.
de tous les équipements
Nos réglementations imposent les mêmes tests pour les équipements neufs et d'occasion. Au fait, nous complétons la garantie officielle du fabricant par notre propre garantie.