Serveur NVIDIA DGX B300
- État
- New
- Fabricant
- NVIDIA
- CPU
- 2x Intel Xeon 6776P (64c/128t, 2.3GHz-3.9GHz, 350W)
- RAM
- 2000GB (DDR5 ECC REG)
- NIC card
- ConnectX-8 + BlueField-3 DPU + 1GbE RJ45
- GPU
- 8 x NVIDIA B300 SXM
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA B300 Blackwell Ultra
- Installed GPU/APU count
- 8 GPUs
- Maximum GPU/APU count
- 8 SXM GPUs
- Memory per accelerator
- 288GB
- Total accelerator memory
- 2304GB
- GPU memory type
- HBM3e
- Accelerator memory bandwidth
- Up to 8TB/s per GPU
- Accelerator form factor
- SXM
- Accelerator interconnect
- Fifth-generation NVIDIA NVLink with two NVLink switches
- Accelerator-to-CPU interface
- PCIe 5.0
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8, FP6, FP4 and INT8
- Accelerator virtualization
- MIG-backed NVIDIA vGPU, SR-IOV and GPU passthrough
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA, NVIDIA AI Enterprise, NVIDIA DGX OS, NVIDIA NGC, NVIDIA Mission Control, NVIDIA Dynamo and NVIDIA Transformer Engine
- Maximum system power
- 15kW
- Cooling
- Air cooling with front-to-back chassis airflow and redundant hot-swap fan modules
- Recommended workloads
- AI reasoning, agentic AI, generative AI and large-language-model training, fine-tuning and inference, multimodal AI, accelerated analytics, scientific computing and HPC
- Dimensions
- 442 x 482.6 x 904.2 mm (H x W x D)
- Weight
- 168 kg for the AC PSU configuration
Besoin d’un conseil technique pour choisir un serveur ?
Soumettre une demandeNVIDIA DGX B300 est un système intégré de calcul accéléré conçu pour les charges de travail d’intelligence artificielle d’entreprise, de machine learning, d’IA générative, d’analyse de données et de calcul haute performance (HPC). Cette nouvelle configuration NVIDIA repose sur huit GPU NVIDIA B300 SXM et fournit une architecture unifiée pour l’entraînement IA, l’inférence et le traitement de données à grande échelle dans les centres de données modernes.
Contrairement à un serveur GPU traditionnel assemblé à partir de composants séparés, NVIDIA DGX B300 combine l’accélération GPU, les interconnexions haut débit, le stockage, le réseau et une pile logicielle NVIDIA validée dans une seule plateforme prête pour l’entreprise. Dans cette configuration, le système intègre le réseau NVIDIA ConnectX-8, des DPU NVIDIA BlueField-3 et une interface de gestion 1GbE RJ45, ce qui lui permet de fonctionner comme nœud de calcul IA autonome ou comme composant de clusters DGX évolutifs.
Architecture GPU pour l’entraînement et l’inférence IA
NVIDIA DGX B300 est équipé de huit GPU NVIDIA B300 SXM basés sur l’architecture NVIDIA Blackwell Ultra. La configuration à huit GPU fournit 2.304GB de mémoire GPU totale, offrant aux entreprises la capacité nécessaire pour les grands modèles de langage, les services d’IA générative, l’analyse accélérée et les charges de travail HPC.
Le GPU NVIDIA B300 est conçu pour les charges de travail IA exigeantes, notamment l’entraînement de modèles à grande échelle, le fine-tuning, l’inférence, les systèmes de recommandation, la vision par ordinateur, l’analytique et le calcul scientifique. Les Tensor Cores prenant en charge le calcul avancé en basse précision et en précision mixte accélèrent les opérations de réseaux neuronaux tout en conservant les performances et l’efficacité requises pour les environnements de production.
Les huit GPU sont reliés par la technologie NVIDIA NVLink de cinquième génération et des interconnexions NVIDIA NVSwitch, créant une structure de communication GPU à haut débit. Cette architecture permet à plusieurs accélérateurs de fonctionner efficacement ensemble comme un domaine de calcul unique pour des charges de travail distribuées exigeantes.
Le système est propulsé par deux processeurs Intel Xeon 6776P, chacun doté de 64 cœurs et 128 threads, d’une fréquence de base de 2,3GHz, d’une fréquence maximale allant jusqu’à 3,9GHz et d’une puissance processeur de 350W. Cette configuration comprend 2.000GB de mémoire DDR5 ECC enregistrée, permettant une préparation efficace des données, l’orchestration, les charges de travail conteneurisées et les tâches de traitement côté CPU nécessaires aux pipelines IA d’entreprise.
Principaux cas d’utilisation
- Entraînement et fine-tuning de modèles IA. DGX B300 accélère le développement et l’optimisation de modèles IA avancés, notamment l’IA générative, le traitement du langage naturel, la vision par ordinateur, les systèmes de recommandation et les applications IA d’entreprise.
- Charges d’inférence à grande échelle. La plateforme est conçue pour déployer des services IA en production, des applications intelligentes, des systèmes de décision automatisés, des chatbots et l’exécution de modèles en temps réel.
- Analyse de données et calcul accéléré. DGX B300 prend en charge l’analyse accélérée par GPU, le calcul scientifique, les simulations et les charges de travail combinant des méthodes HPC traditionnelles avec le machine learning.
- Environnements IA multi-utilisateurs. La plateforme peut prendre en charge des charges de travail accélérées isolées et planifiées efficacement pour plusieurs équipes, aidant les organisations à améliorer l’utilisation des ressources dans les environnements de développement, de test et de production IA.
- Infrastructure IA d’entreprise. DGX B300 fournit une base standardisée aux organisations qui construisent des plateformes IA internes, des environnements de recherche, des opérations de machine learning évolutives et une infrastructure privée d’IA générative.
NVIDIA DGX B300 dans l’infrastructure d’entreprise
NVIDIA DGX B300 est conçu pour les organisations qui ont besoin de ressources de calcul IA dédiées pour le développement continu, les tests et le déploiement en production. La plateforme permet aux équipes de data science, aux ingénieurs IA et aux développeurs d’entreprise de travailler dans un environnement matériel et logiciel cohérent, au lieu de gérer des serveurs accélérateurs et des couches d’intégration séparés.
Le système peut être déployé comme nœud IA individuel ou intégré à des environnements NVIDIA de plus grande envergure. Lors de la planification d’un déploiement d’entreprise, les organisations doivent évaluer non seulement les performances GPU, mais aussi l’architecture réseau, les besoins en stockage externe, la répartition des charges de travail, la disponibilité électrique, la capacité de refroidissement et la préparation du centre de données.
Avec huit GPU NVIDIA B300 SXM, deux processeurs Intel Xeon 6776P, 2.000GB de mémoire DDR5 ECC enregistrée, le réseau ConnectX-8, des DPU BlueField-3 et l’écosystème logiciel NVIDIA DGX, cette configuration DGX B300 constitue une base fiable pour les organisations qui développent des services d’IA générative, des plateformes de machine learning, des solutions d’analyse et des applications HPC nécessitant des performances prévisibles et une gestion simplifiée de l’infrastructure.
d'acheter un serveur
chez Servermall
Nous tenons à vous garantir une fiabilité totale de nos équipements. C'est pourquoi tous nos équipements (même neufs) sont soumis à des diagnostics, des tests et des remplacements de pièces complets.
Nous équipons nos équipements de divers utilitaires et logiciels. Soyez assuré qu'ils fonctionneront très longtemps.
Alimentation
Les composants fonctionnent à pleine capacité et sont testés pendant plusieurs jours. En cas de doute, nous les remplaçons.
de tous les Ă©quipements
Nos réglementations imposent les mêmes tests pour les équipements neufs et d'occasion. Au fait, nous complétons la garantie officielle du fabricant par notre propre garantie.