Serveur GIGABYTE XV23-VC0-AAJ1
- État
- New
- Fabricant
- GIGABYTE
- Format
- 2U
- RAM
- 960GB (LPDDR5x)
- GPU
- 4 x NVIDIA H100
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA H100
- Installed GPU/APU count
- 4
- Maximum GPU/APU count
- 4
- Memory per accelerator
- 80GB
- Total accelerator memory
- 320GB
- GPU memory type
- HBM2e
- Accelerator memory bandwidth
- Over 2 TB/s per GPU
- Accelerator form factor
- PCIe FHFL
- Accelerator interconnect
- PCIe peer-to-peer topology; no chassis-level NVLink fabric
- Accelerator-to-CPU interface
- PCIe 5.0 x16 per GPU
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8 and INT8
- Accelerator virtualization
- NVIDIA vGPU, SR-IOV and GPU passthrough
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA, NVIDIA AI Enterprise and NVIDIA Transformer Engine
- Maximum system power
- 8kW
- Cooling
- Air cooling with four 80 mm system fan modules and passive GPU cards
- Recommended workloads
- AI training, fine-tuning and inference, LLM and NLP workloads, HPC, simulation, analytics and data science
- Dimensions
- 87 x 438 x 900 mm (H x W x D)
- Weight
- 46.6 kg
Besoin d’un conseil technique pour choisir un serveur ?
Soumettre une demandeGigabyte XV23-VC0-AAJ1 2NVMe est une configuration de système GPU d'entreprise au format 2U avec 2 emplacements frontaux 2,5 pouces PCIe Gen5 NVMe hot-swap. Elle est conçue pour les usines d'IA, centres de recherche, fournisseurs cloud et datacenters qui ont besoin d'un stockage local rapide pour les charges accélérées.
Caractéristiques principales :
-
Configuration des disques et accès de maintenance: Le châssis offre 2 emplacements frontaux 2,5 pouces PCIe Gen5 NVMe hot-swap. Les disques compatibles peuvent être remplacés sans ouvrir le châssis, ce qui contribue à réduire les temps d'arrêt planifiés.
-
Sous-système d'accélération: Le sous-système d'accélération installé comprend 4 x NVIDIA H100 PCIe 80GB et fournit au total 320GB (4 x 80GB) de mémoire GPU. PCIe ; aucun pont GPU à GPU dédié n’est prévu dans cette configuration.
-
Topologie de stockage et chemin de données: Chaque emplacement frontal est relié à un backplane NVMe PCIe Gen5 x4. 2 M.2 PCIe internes Gen5 x4 emplacements. Cette organisation facilite le chargement rapide des jeux de données, des checkpoints et du stockage de travail local sans associer la baie à un autre protocole de disque.
-
Plateforme de calcul d’entreprise: Le sous-système de calcul est configuré avec NVIDIA Grace CPU Superchip avec 2 CPU Grace reliés par NVLink-C2C à 900 GB/s et 960GB mémoire CPU LPDDR5X ECC dans la configuration proposée. Il fournit les ressources CPU, mémoire et PCIe nécessaires aux accélérateurs et aux services de production.
-
Administration et disponibilité: ASPEED AST2600 BMC, réseau de gestion dédié et GIGABYTE Management Console; 2+2 x alimentations redondantes 2000W 80 PLUS Titanium. Ces fonctions facilitent l'administration à distance, la surveillance de l'état et la continuité de service.
Cas d'utilisation :
-
Développement de modèles d’IA: Exploite le sous-système NVIDIA H100 PCIe 80GB installé pour l'entraînement, l'ajustement fin et le développement de grands modèles.
-
Inférence et IA en production: Fournit calcul parallèle et mémoire d'accélérateur pour les services d'inférence LLM, multimodaux et d'entreprise.
-
HPC, simulation et analytique: Accélère le calcul scientifique, la simulation numérique, l'analytique et les autres charges parallèles prises en charge par NVIDIA H100 PCIe 80GB.
-
Pipelines à forte intensité de données: Associe 2 emplacements NVMe frontaux 2,5 pouces à des chemins GPU et réseau à haut débit pour les jeux de données, les checkpoints, la préparation et l'espace de travail local.
Gigabyte XV23-VC0-AAJ1 2NVMe est une plateforme 2U conçue pour les organisations qui ont besoin de 2 baies NVMe PCIe Gen5 frontales 2,5 pouces, de 320GB (4 x 80GB) de mémoire GPU installée ainsi que de fonctions de calcul et d'administration de niveau entreprise dans un système prêt à déployer.
d'acheter un serveur
chez Servermall
Nous tenons à vous garantir une fiabilité totale de nos équipements. C'est pourquoi tous nos équipements (même neufs) sont soumis à des diagnostics, des tests et des remplacements de pièces complets.
Nous équipons nos équipements de divers utilitaires et logiciels. Soyez assuré qu'ils fonctionneront très longtemps.
Alimentation
Les composants fonctionnent à pleine capacité et sont testés pendant plusieurs jours. En cas de doute, nous les remplaçons.
de tous les équipements
Nos réglementations imposent les mêmes tests pour les équipements neufs et d'occasion. Au fait, nous complétons la garantie officielle du fabricant par notre propre garantie.