Serveur Supermicro AS-8125GS-TNHR
- État
- New
- Fabricant
- Supermicro
- Format
- 8U
- RAM
- 6144GB (DDR5 ECC REG)
- GPU
- 8 x NVIDIA H100
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA H100
- Installed GPU/APU count
- 8 onboard GPUs
- Maximum GPU/APU count
- 8 onboard GPUs
- Memory per accelerator
- 80GB
- Total accelerator memory
- 640GB
- GPU memory type
- HBM3
- Accelerator memory bandwidth
- 3350 GB/s (3.35 TB/s) per GPU
- Accelerator form factor
- SXM5
- Accelerator interconnect
- NVIDIA NVLink with NVSwitch
- Accelerator-to-CPU interface
- PCIe 5.0 x16 per GPU
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8, INT8
- Accelerator virtualization
- NVIDIA vGPU, SR-IOV, GPU passthrough
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA; NVIDIA AI Enterprise-compatible
- Maximum system power
- 9kW
- Cooling
- Air cooling with up to 10 heavy-duty fans and optimal fan-speed control
- Recommended workloads
- Large-scale AI and deep learning training, LLM workloads, HPC, simulation and scientific computing
- Dimensions
- 355.6 x 437 x 843.28 mm (H x W x D)
- Weight
- 75.3 kg
Besoin d’un conseil technique pour choisir un serveur ?
Soumettre une demandeSupermicro AS-8125GS-TNHR 12SFF/NVMe + 2SFF est une configuration de stockage pour serveur d’entreprise au format 8U avec douze baies NVMe hot-swap frontales de 2,5 pouces et deux baies SATA hot-swap frontales de 2,5 pouces. Elle est conçue pour les usines d’IA, centres de recherche, fournisseurs cloud et datacenters d’entreprise qui ont besoin d’un stockage local rapide pour les charges d’IA et de HPC.
Caractéristiques principales :
-
Configuration des disques et accès de maintenance: La configuration de stockage sélectionnée comprend douze baies NVMe hot-swap frontales de 2,5 pouces et deux baies SATA hot-swap frontales de 2,5 pouces. Les disques hot-swap compatibles peuvent être entretenus en façade sans ouvrir le châssis, ce qui contribue à réduire les temps de maintenance planifiée.
-
Sous-système d’accélération installé: Le sous-système d’accélération installé comprend 8 x NVIDIA H100 SXM5. Il fournit au total 640GB HBM3 (8 x 80GB). NVIDIA NVLink de quatrième génération avec NVSwitch assure des communications à haut débit au sein du complexe HGX H100.
-
Topologie de stockage et chemin de données: Douze baies NVMe constituent le niveau de données à haut débit et deux baies SATA fournissent un niveau séparé pour le service ou le démarrage. Les quatre baies NVMe supplémentaires en option ne font pas partie de cette configuration 12NVMe+2SFF.
-
Plateforme de calcul d’entreprise: Le sous-système de calcul installé associe deux processeurs AMD EPYC série 9004 à 6 144GB de mémoire DDR5 ECC Registered. Il fournit les ressources CPU, mémoire et PCIe nécessaires aux accélérateurs et à l’hébergement des services de production.
-
Administration et disponibilité: Connectivité BMC dédiée et outils Supermicro de gestion du cycle de vie, associés à 6 alimentations redondantes de 3000W (3+3) 80 PLUS Titanium, facilitent l’administration à distance, la surveillance des composants, les opérations de maintenance planifiée et la continuité de service dans le datacenter.
Cas d'utilisation :
-
Développement de modèles d’IA: Exploite le sous-système NVIDIA H100 SXM5 installé pour le développement, l’entraînement et l’ajustement fin de modèles adaptés à l’architecture des accélérateurs.
-
Inférence et services en production: Fournit calcul parallèle et mémoire d’accélérateur pour les services d’inférence LLM, multimodaux et d’entreprise.
-
HPC, simulation et analytique: Accélère le calcul scientifique, la simulation numérique, l’ingénierie, l’analytique et les autres charges parallèles prises en charge par le sous-système installé.
-
Pipelines à forte intensité de données: Associe la configuration 12SFF/NVMe+2SFF indiquée à des chemins accélérateurs et réseau à haut débit pour les jeux de données, checkpoints, staging et espace de travail local.
Supermicro AS-8125GS-TNHR 12SFF/NVMe + 2SFF est une configuration de stockage 12SFF/NVMe+2SFF précisément définie pour les organisations qui ont besoin de cette configuration de disques, d’une accélération NVIDIA H100 SXM5 installée et d’une gestion fiable du cycle de vie de niveau entreprise.
d'acheter un serveur
chez Servermall
Nous tenons à vous garantir une fiabilité totale de nos équipements. C'est pourquoi tous nos équipements (même neufs) sont soumis à des diagnostics, des tests et des remplacements de pièces complets.
Nous équipons nos équipements de divers utilitaires et logiciels. Soyez assuré qu'ils fonctionneront très longtemps.
Alimentation
Les composants fonctionnent à pleine capacité et sont testés pendant plusieurs jours. En cas de doute, nous les remplaçons.
de tous les équipements
Nos réglementations imposent les mêmes tests pour les équipements neufs et d'occasion. Au fait, nous complétons la garantie officielle du fabricant par notre propre garantie.