Server NVIDIA DGX B300
- Condizione
- New
- Produttore
- NVIDIA
- CPU
- 2x Intel Xeon 6776P (64c/128t, 2.3GHz-3.9GHz, 350W)
- RAM
- 2000GB (DDR5 ECC REG)
- NIC card
- ConnectX-8 + BlueField-3 DPU + 1GbE RJ45
- GPU
- 8 x NVIDIA B300 SXM
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA B300 Blackwell Ultra
- Installed GPU/APU count
- 8 GPUs
- Maximum GPU/APU count
- 8 SXM GPUs
- Memory per accelerator
- 288GB
- Total accelerator memory
- 2304GB
- GPU memory type
- HBM3e
- Accelerator memory bandwidth
- Up to 8TB/s per GPU
- Accelerator form factor
- SXM
- Accelerator interconnect
- Fifth-generation NVIDIA NVLink with two NVLink switches
- Accelerator-to-CPU interface
- PCIe 5.0
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8, FP6, FP4 and INT8
- Accelerator virtualization
- MIG-backed NVIDIA vGPU, SR-IOV and GPU passthrough
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA, NVIDIA AI Enterprise, NVIDIA DGX OS, NVIDIA NGC, NVIDIA Mission Control, NVIDIA Dynamo and NVIDIA Transformer Engine
- Maximum system power
- 15kW
- Cooling
- Air cooling with front-to-back chassis airflow and redundant hot-swap fan modules
- Recommended workloads
- AI reasoning, agentic AI, generative AI and large-language-model training, fine-tuning and inference, multimodal AI, accelerated analytics, scientific computing and HPC
- Dimensions
- 442 x 482.6 x 904.2 mm (H x W x D)
- Weight
- 168 kg for the AC PSU configuration
Hai bisogno di una consulenza tecnica per scegliere un server?
Invia una richiestaNVIDIA DGX B300 è un sistema integrato di calcolo accelerato progettato per carichi di lavoro enterprise di intelligenza artificiale, machine learning, IA generativa, analytics e high-performance computing (HPC). Questa nuova configurazione NVIDIA è basata su otto GPU NVIDIA B300 SXM e offre un’architettura unificata per training AI, inferenza ed elaborazione dei dati su larga scala nei moderni data center.
A differenza di un server GPU tradizionale assemblato con componenti separati, NVIDIA DGX B300 combina accelerazione GPU, interconnessioni ad alta velocità, storage, networking e uno stack software NVIDIA validato in un’unica piattaforma pronta per l’azienda. In questa configurazione, il sistema include networking NVIDIA ConnectX-8, DPU NVIDIA BlueField-3 e un’interfaccia di gestione 1GbE RJ45, permettendo l’utilizzo come nodo di calcolo AI autonomo o come parte di cluster scalabili basati su DGX.
Architettura GPU per training e inferenza AI
NVIDIA DGX B300 è equipaggiato con otto GPU NVIDIA B300 SXM basate sull’architettura NVIDIA Blackwell Ultra. La configurazione a otto GPU fornisce 2.304GB di memoria GPU totale, offrendo alle aziende la capacità richiesta per grandi modelli linguistici, servizi di IA generativa, analytics accelerati e carichi di lavoro HPC.
La GPU NVIDIA B300 è progettata per carichi di lavoro AI impegnativi, tra cui training di modelli su larga scala, fine-tuning, inferenza, sistemi di raccomandazione, computer vision, analytics e calcolo scientifico. I Tensor Core con supporto per il calcolo avanzato a bassa precisione e a precisione mista aiutano ad accelerare le operazioni delle reti neurali mantenendo le prestazioni e l’efficienza richieste dagli ambienti di produzione.
Le otto GPU sono collegate tramite tecnologia NVIDIA NVLink di quinta generazione e interconnessioni NVIDIA NVSwitch, creando un fabric di comunicazione GPU ad alta larghezza di banda. Questa architettura consente a più acceleratori di lavorare insieme in modo efficiente come un unico dominio di calcolo per carichi di lavoro distribuiti impegnativi.
Il sistema è alimentato da due processori Intel Xeon 6776P, ciascuno con 64 core e 128 thread, frequenza base di 2,3GHz, frequenza massima fino a 3,9GHz e potenza del processore di 350W. Questa configurazione include 2.000GB di memoria DDR5 ECC registered, consentendo preparazione dei dati efficiente, orchestrazione, carichi di lavoro containerizzati e attività di elaborazione lato CPU richieste dalle pipeline AI enterprise.
Principali casi d’uso
- Training e fine-tuning di modelli AI. DGX B300 accelera lo sviluppo e l’ottimizzazione di modelli AI avanzati, tra cui IA generativa, elaborazione del linguaggio naturale, computer vision, sistemi di raccomandazione e applicazioni AI enterprise.
- Carichi di inferenza su larga scala. La piattaforma è progettata per distribuire servizi AI in produzione, applicazioni intelligenti, sistemi decisionali automatizzati, chatbot ed esecuzione di modelli in tempo reale.
- Analytics dei dati e calcolo accelerato. DGX B300 supporta analytics accelerati da GPU, calcolo scientifico, simulazioni e carichi di lavoro che combinano metodi HPC tradizionali con il machine learning.
- Ambienti AI multiutente. La piattaforma può supportare carichi di lavoro accelerati isolati e pianificati in modo efficiente per più team, aiutando le organizzazioni a migliorare l’utilizzo delle risorse negli ambienti di sviluppo, test e produzione AI.
- Infrastruttura AI enterprise. DGX B300 offre una base standardizzata per organizzazioni che costruiscono piattaforme AI interne, ambienti di ricerca, operazioni di machine learning scalabili e infrastrutture private per IA generativa.
NVIDIA DGX B300 nell’infrastruttura enterprise
NVIDIA DGX B300 è progettato per organizzazioni che richiedono risorse di calcolo AI dedicate per sviluppo continuo, test e distribuzione in produzione. La piattaforma consente a team di data science, ingegneri AI e sviluppatori enterprise di lavorare in un ambiente hardware e software coerente invece di gestire server acceleratori e livelli di integrazione separati.
Il sistema può essere implementato come nodo AI individuale o integrato in ambienti NVIDIA più ampi. Nella pianificazione di un deployment enterprise, le organizzazioni devono valutare non solo le prestazioni GPU, ma anche l’architettura di rete, i requisiti di storage esterno, la distribuzione dei carichi di lavoro, la disponibilità di alimentazione, la capacità di raffreddamento e la predisposizione del data center.
Con otto GPU NVIDIA B300 SXM, due processori Intel Xeon 6776P, 2.000GB di memoria DDR5 ECC registered, networking ConnectX-8, DPU BlueField-3 e l’ecosistema software NVIDIA DGX, questa configurazione DGX B300 offre una base affidabile per organizzazioni che sviluppano servizi di IA generativa, piattaforme di machine learning, soluzioni analytics e applicazioni HPC che richiedono prestazioni prevedibili e gestione semplificata dell’infrastruttura.
garanzia
completi
Vogliamo assicurarci che le nostre apparecchiature siano completamente affidabili per voi. Ecco perché tutte le nostre apparecchiature (anche nuove) sono soggette a diagnostica completa, test e sostituzione dei componenti.
estremi
Carichiamo completamente le nostre apparecchiature con varie utility e software. State tranquilli, funzioneranno a lungo.
Alimentatore
I componenti funzionano a piena capacità e vengono testati per diversi giorni. Se non siamo sicuri di qualcosa, lo sostituiamo.
di tutte le apparecchiature
Le nostre normative prevedono gli stessi test sia per le apparecchiature usate che per quelle nuove. Ah, e a proposito, integriamo la garanzia ufficiale del produttore con la nostra garanzia.