Serveur NVIDIA DGX A100

NVIDIA DGX A100 est un système intégré de calcul accéléré conçu pour les charges de travail d’intelligence artificielle d’entreprise, d’apprentissage automatique, d’analytique et de calcul haute performance (HPC). Construite autour de huit GPU NVIDIA A100 Tensor Core, la plateforme fournit une architecture unifiée pour l’entraînement de l’IA, l’inférence et le traitement de données à grande échelle dans les centres de données modernes.

Contrairement à un serveur GPU traditionnel assemblé à partir de composants séparés, NVIDIA DGX A100 réunit l’accélération GPU, les interconnexions haut débit, le stockage, la mise en réseau et une pile logicielle NVIDIA validée dans une plateforme unique prête pour l’entreprise. Elle peut fonctionner comme un nœud de calcul IA autonome ou servir de brique de base pour des clusters DGX évolutifs.

Architecture GPU pour l’entraînement et l’inférence IA

NVIDIA DGX A100 est équipée de huit GPU NVIDIA A100 Tensor Core basés sur l’architecture NVIDIA Ampere. Le système est disponible en configurations 640GB et 320GB, avec huit GPU dans les deux versions. Le modèle DGX A100 640GB fournit 640GB de mémoire GPU totale, tandis que le modèle DGX A100 320GB fournit 320GB de mémoire GPU totale.

Le GPU NVIDIA A100 Tensor Core est conçu pour un large éventail de charges de travail IA, notamment l’entraînement deep learning, l’inférence, l’analytique et les applications HPC. Les Tensor Cores avec prise en charge du calcul en précision mixte accélèrent les opérations de réseaux neuronaux tout en maintenant la précision requise pour les charges de production.

Les huit GPU sont reliés par NVIDIA NVLink de troisième génération et six dispositifs NVIDIA NVSwitch de deuxième génération, créant une fabric de communication GPU à haut débit. Cette architecture fournit jusqu’à 600GB/s de bande passante GPU à GPU et permet à plusieurs accélérateurs de fonctionner efficacement comme un domaine de calcul unique pour les charges distribuées exigeantes.

Le système est propulsé par deux processeurs AMD EPYC 7742 de 64 cœurs chacun, soit 128 cœurs CPU au total. La configuration d’usine prend en charge jusqu’à 2TB de mémoire système, ce qui facilite la préparation des données, les charges conteneurisées et les traitements côté CPU nécessaires aux pipelines IA.

Principaux cas d’utilisation

• Entraînement et fine-tuning de modèles IA. DGX A100 accélère le développement et l’optimisation de modèles deep learning, notamment la vision par ordinateur, le traitement du langage naturel, les systèmes de recommandation et les applications IA d’entreprise.
• Charges d’inférence à grande échelle. La plateforme est conçue pour déployer des services IA en production, des applications intelligentes, des systèmes de décision automatisée et l’exécution de modèles en temps réel.
• Analytique des données et calcul accéléré. DGX A100 prend en charge l’analytique accélérée par GPU, le calcul scientifique, les simulations et les charges combinant des méthodes HPC traditionnelles avec l’apprentissage automatique.
• Environnements IA multi-utilisateurs. La technologie NVIDIA Multi-Instance GPU (MIG) permet de partitionner chaque GPU A100 en jusqu’à sept instances GPU isolées avec des ressources mémoire et de calcul dédiées, améliorant l’utilisation des ressources pour plusieurs équipes et applications.
• Infrastructure IA d’entreprise. DGX A100 fournit une base standardisée aux organisations qui construisent des plateformes IA internes, des environnements de recherche et des opérations de machine learning évolutives.

NVIDIA DGX A100 dans l’infrastructure d’entreprise

NVIDIA DGX A100 est destinée aux organisations qui ont besoin de ressources de calcul IA dédiées pour le développement continu, les tests et le déploiement en production. La plateforme permet aux équipes data science, aux ingénieurs IA et aux développeurs d’entreprise de travailler dans un environnement matériel et logiciel cohérent, sans gérer séparément des serveurs accélérés et des couches d’intégration.

Le système peut être déployé comme nœud IA individuel ou intégré dans des environnements NVIDIA plus larges. Lors de la planification d’un déploiement d’entreprise, les organisations doivent évaluer non seulement les performances GPU, mais aussi l’architecture réseau, les besoins en stockage externe, la répartition des charges et la préparation du centre de données.

Grâce à son design matériel intégré, à l’écosystème logiciel NVIDIA et à la prise en charge de déploiements IA évolutifs, DGX A100 aide les entreprises à raccourcir le passage de l’expérimentation IA à l’usage en production. La plateforme offre une base fiable pour les services de machine learning, les plateformes analytiques et les applications HPC qui exigent des performances prévisibles et une gestion d’infrastructure simplifiée.