Serveur GIGABYTE XV23-VC0-AAJ1
- État
- New
- Fabricant
- GIGABYTE
- Format
- 2U
- RAM
- 960GB (LPDDR5x)
- GPU
- 4 x NVIDIA H100
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA H100
- Installed GPU/APU count
- 4
- Maximum GPU/APU count
- 4
- Memory per accelerator
- 80GB
- Total accelerator memory
- 320GB
- GPU memory type
- HBM2e
- Accelerator memory bandwidth
- Over 2 TB/s per GPU
- Accelerator form factor
- PCIe FHFL
- Accelerator interconnect
- PCIe peer-to-peer topology; no chassis-level NVLink fabric
- Accelerator-to-CPU interface
- PCIe 5.0 x16 per GPU
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8 and INT8
- Accelerator virtualization
- NVIDIA vGPU, SR-IOV and GPU passthrough
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA, NVIDIA AI Enterprise and NVIDIA Transformer Engine
- Maximum system power
- 8kW
- Cooling
- Air cooling with four 80 mm system fan modules and passive GPU cards
- Recommended workloads
- AI training, fine-tuning and inference, LLM and NLP workloads, HPC, simulation, analytics and data science
- Dimensions
- 87 x 438 x 900 mm (H x W x D)
- Weight
- 46.6 kg
Besoin d’un conseil technique pour choisir un serveur ?
Soumettre une demandeGigabyte XV23-VC0-AAJ1 2NVMe est une configuration de système GPU d'entreprise au format 2U avec 2 emplacements frontaux 2,5 pouces PCIe Gen5 NVMe hot-swap. Elle est conçue pour les usines d'IA, centres de recherche, fournisseurs cloud et datacenters qui ont besoin d'un stockage local rapide pour les charges accélérées.
Caractéristiques principales :
-
Configuration des disques et accès de maintenance: Le châssis offre 2 emplacements frontaux 2,5 pouces PCIe Gen5 NVMe hot-swap. Les disques compatibles peuvent être remplacés sans ouvrir le châssis, ce qui contribue à réduire les temps d'arrêt planifiés.
-
Sous-système d'accélération: Le sous-système d'accélération installé comprend 4 x NVIDIA H100 PCIe 80GB et fournit au total 320GB (4 x 80GB) de mémoire GPU. PCIe ; aucun pont GPU à GPU dédié n’est prévu dans cette configuration.
-
Topologie de stockage et chemin de données: Chaque emplacement frontal est relié à un backplane NVMe PCIe Gen5 x4. 2 M.2 PCIe internes Gen5 x4 emplacements. Cette organisation facilite le chargement rapide des jeux de données, des checkpoints et du stockage de travail local sans associer la baie à un autre protocole de disque.
-
Plateforme de calcul d’entreprise: Le sous-système de calcul est configuré avec NVIDIA Grace CPU Superchip avec 2 CPU Grace reliés par NVLink-C2C à 900 GB/s et 960GB mémoire CPU LPDDR5X ECC dans la configuration proposée. Il fournit les ressources CPU, mémoire et PCIe nécessaires aux accélérateurs et aux services de production.
-
Administration et disponibilité: ASPEED AST2600 BMC, réseau de gestion dédié et GIGABYTE Management Console; 2+2 x alimentations redondantes 2000W 80 PLUS Titanium. Ces fonctions facilitent l'administration à distance, la surveillance de l'état et la continuité de service.
Cas d'utilisation :
-
Développement de modèles d’IA: Exploite le sous-système NVIDIA H100 PCIe 80GB installé pour l'entraînement, l'ajustement fin et le développement de grands modèles.
-
Inférence et IA en production: Fournit calcul parallèle et mémoire d'accélérateur pour les services d'inférence LLM, multimodaux et d'entreprise.
-
HPC, simulation et analytique: Accélère le calcul scientifique, la simulation numérique, l'analytique et les autres charges parallèles prises en charge par NVIDIA H100 PCIe 80GB.
-
Pipelines à forte intensité de données: Associe 2 emplacements NVMe frontaux 2,5 pouces à des chemins GPU et réseau à haut débit pour les jeux de données, les checkpoints, la préparation et l'espace de travail local.
Gigabyte XV23-VC0-AAJ1 2NVMe est une plateforme 2U conçue pour les organisations qui ont besoin de 2 baies NVMe PCIe Gen5 frontales 2,5 pouces, de 320GB (4 x 80GB) de mémoire GPU installée ainsi que de fonctions de calcul et d'administration de niveau entreprise dans un système prêt à déployer.
d'acheter un serveur
chez Servermall
Nous tenons à vous garantir une fiabilité totale de nos équipements. C'est pourquoi tous nos équipements (même neufs) sont soumis à des diagnostics, des tests et des remplacements de pièces complets.
Nous équipons nos équipements de divers utilitaires et logiciels. Soyez assuré qu'ils fonctionneront très longtemps.
Alimentation
Les composants fonctionnent à pleine capacité et sont testés pendant plusieurs jours. En cas de doute, nous les remplaçons.
de tous les Ă©quipements
Nos réglementations imposent les mêmes tests pour les équipements neufs et d'occasion. Au fait, nous complétons la garantie officielle du fabricant par notre propre garantie.