Serveur NVIDIA DGX B300
- État
- New
- Fabricant
- NVIDIA
- Processeur pris en charge
- 2x Intel Xeon Platinum 6776P
- RAM prise en charge
- 32x 64GB DDR5-6400 (4TB)
- Bloc d’alimentation
- 12x 3000W
- Baies HDD
- 2x 1.92TB NVMe SSD / 8x 3.84TB NVMe SSD
- GPU
- 8 x NVIDIA Blackwell Ultra SXM
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA B300 Blackwell Ultra
- Installed GPU/APU count
- 8
- Maximum GPU/APU count
- 8
- Memory per accelerator
- 288GB
- Total accelerator memory
- 2304GB
- GPU memory type
- HBM3e
- Accelerator memory bandwidth
- Up to 8TB/s per GPU
- Accelerator form factor
- SXM
- Accelerator interconnect
- Fifth-generation NVIDIA NVLink with two NVLink switches
- Accelerator-to-CPU interface
- PCIe 5.0
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8, FP6, FP4 and INT8
- Accelerator virtualization
- MIG-backed NVIDIA vGPU, SR-IOV and GPU passthrough
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA, NVIDIA AI Enterprise, NVIDIA DGX OS, NVIDIA NGC, NVIDIA Mission Control, NVIDIA Dynamo and NVIDIA Transformer Engine
- Maximum system power
- 15kW
- Cooling
- Air cooling with front-to-back chassis airflow and redundant hot-swap fan modules
- Recommended workloads
- AI reasoning, agentic AI, generative AI and large-language-model training, fine-tuning and inference, multimodal AI, accelerated analytics, scientific computing and HPC
- Dimensions
- 442 x 482.6 x 904.2 mm (H x W x D)
- Weight
- 168 kg for the AC PSU configuration
Besoin d’un conseil technique pour choisir un serveur ?
Soumettre une demandeNVIDIA DGX B300 est un système intégré de calcul accéléré conçu pour les charges de travail d’intelligence artificielle d’entreprise, d’apprentissage automatique, d’IA générative, de raisonnement IA, d’analytique et de calcul haute performance (HPC). Basée sur huit GPU NVIDIA B300 Blackwell Ultra Tensor Core, la plateforme fournit une architecture unifiée pour l’entraînement IA, l’inférence et le traitement de données à grande échelle dans les centres de données modernes.
Contrairement à un serveur GPU traditionnel assemblé à partir de composants distincts, NVIDIA DGX B300 combine accélération GPU, interconnexions à haut débit, stockage, réseau et pile logicielle NVIDIA validée dans une plateforme unique prête pour l’entreprise. Il peut fonctionner comme nœud de calcul IA autonome ou servir de brique de base pour des clusters DGX évolutifs.
Architecture GPU pour l’entraînement et l’inférence IA
NVIDIA DGX B300 est équipé de huit GPU NVIDIA B300 Blackwell Ultra Tensor Core. Le système fournit 8 x 288 Go de mémoire GPU, soit environ 2,3 To au total, offrant aux entreprises la capacité requise pour les modèles de raisonnement, les grands modèles de langage, les applications d’IA générative, l’analytique accélérée et les charges HPC.
Le GPU NVIDIA B300 Blackwell Ultra est conçu pour les charges de travail IA exigeantes, notamment l’entraînement de grands modèles de langage, l’affinage, l’inférence, l’IA agentique, les systèmes de recommandation, la vision par ordinateur, l’analytique et le calcul scientifique. Les Tensor Cores avec prise en charge du calcul en précision mixte contribuent à accélérer les opérations des réseaux neuronaux tout en conservant la précision requise pour les charges de production.
Les huit GPU sont reliés par NVIDIA NVLink de cinquième génération et deux systèmes de commutation NVIDIA NVLink de cinquième génération, créant une trame de communication GPU à haut débit. Cette architecture fournit 14,4 To/s de bande passante NVLink agrégée et permet à plusieurs accélérateurs de fonctionner efficacement comme un seul domaine de calcul pour les charges distribuées exigeantes.
Le système est alimenté par deux processeurs Intel Xeon Platinum 6776P de 64 cœurs chacun, soit 128 cœurs CPU au total. La configuration d’usine comprend 2 To de mémoire système et peut être étendue à 4 To, ce qui permet une préparation efficace des données, des charges conteneurisées et les traitements côté CPU nécessaires aux pipelines IA.
Principaux cas d’usage
- Entraînement et affinage de modèles IA. DGX B300 accélère le développement et l’optimisation de modèles IA à grande échelle, notamment les modèles de raisonnement, l’IA générative, le traitement du langage naturel, la vision par ordinateur, les systèmes de recommandation et les applications IA d’entreprise.
- Charges d’inférence à grande échelle. La plateforme est conçue pour déployer des services IA en production, des applications intelligentes, des agents IA, des systèmes de décision automatisés, des chatbots et l’exécution de modèles en temps réel.
- Analytique de données et calcul accéléré. DGX B300 prend en charge l’analytique accélérée par GPU, le calcul scientifique, les simulations et les charges associant méthodes HPC traditionnelles et apprentissage automatique.
- Environnements IA multi-utilisateurs. La technologie NVIDIA Multi-Instance GPU (MIG) permet une partition GPU prise en charge en instances isolées avec ressources de calcul et mémoire dédiées, améliorant l’utilisation des ressources pour plusieurs équipes et applications.
- Infrastructure IA d’entreprise. DGX B300 fournit une base standardisée pour les organisations qui créent des plateformes IA internes, des environnements de recherche, des opérations de machine learning évolutives et une infrastructure privée de type AI factory.
NVIDIA DGX B300 dans l’infrastructure d’entreprise
NVIDIA DGX B300 est conçu pour les organisations qui ont besoin de ressources de calcul IA dédiées pour le développement continu, les tests et le déploiement en production. La plateforme permet aux équipes de data science, aux ingénieurs IA et aux développeurs d’entreprise de travailler dans un environnement matériel et logiciel cohérent au lieu de gérer des serveurs accélérés et des couches d’intégration séparés.
Le système peut être déployé comme nœud IA individuel ou intégré dans des environnements NVIDIA plus larges. Lors de la planification d’un déploiement d’entreprise, les organisations doivent évaluer non seulement les performances GPU, mais aussi l’architecture réseau, les besoins de stockage externe, la répartition des charges, la disponibilité électrique, la capacité de refroidissement et l’état de préparation du centre de données.
Grâce à sa conception matérielle intégrée, à l’écosystème logiciel NVIDIA et à la prise en charge de déploiements IA évolutifs, DGX B300 aide les entreprises à raccourcir le chemin entre l’expérimentation IA et l’utilisation en production. La plateforme constitue une base fiable pour les services de raisonnement IA, les plateformes d’IA générative, les solutions analytiques et les applications HPC nécessitant des performances prévisibles et une gestion simplifiée de l’infrastructure.
d'acheter un serveur
chez Servermall
Nous tenons à vous garantir une fiabilité totale de nos équipements. C'est pourquoi tous nos équipements (même neufs) sont soumis à des diagnostics, des tests et des remplacements de pièces complets.
Nous équipons nos équipements de divers utilitaires et logiciels. Soyez assuré qu'ils fonctionneront très longtemps.
Alimentation
Les composants fonctionnent à pleine capacité et sont testés pendant plusieurs jours. En cas de doute, nous les remplaçons.
de tous les équipements
Nos réglementations imposent les mêmes tests pour les équipements neufs et d'occasion. Au fait, nous complétons la garantie officielle du fabricant par notre propre garantie.