Server NVIDIA DGX A100

NVIDIA DGX A100 è un sistema integrato di calcolo accelerato progettato per carichi di lavoro aziendali di intelligenza artificiale, machine learning, analisi dei dati e calcolo ad alte prestazioni (HPC). Basata su otto GPU NVIDIA A100 Tensor Core, la piattaforma offre un’architettura unificata per training AI, inferenza ed elaborazione dei dati su larga scala nei moderni data center.

A differenza di un server GPU tradizionale assemblato con componenti separati, NVIDIA DGX A100 combina accelerazione GPU, interconnessioni ad alta velocità, storage, networking e uno stack software NVIDIA validato in un’unica piattaforma pronta per l’uso enterprise. Può operare come nodo di calcolo AI autonomo o come elemento di base per cluster DGX scalabili.

Architettura GPU per training e inferenza AI

NVIDIA DGX A100 è dotato di otto GPU NVIDIA A100 Tensor Core basate sull’architettura NVIDIA Ampere. Il sistema è disponibile in configurazioni da 640GB e 320GB, con otto GPU in entrambe le versioni. Il modello DGX A100 640GB offre 640GB di memoria GPU totale, mentre il modello DGX A100 320GB offre 320GB di memoria GPU totale.

La GPU NVIDIA A100 Tensor Core è progettata per un’ampia gamma di carichi di lavoro AI, tra cui training deep learning, inferenza, analisi e applicazioni HPC. I Tensor Core con supporto al calcolo a precisione mista accelerano le operazioni delle reti neurali mantenendo l’accuratezza richiesta dai carichi di lavoro in produzione.

Le otto GPU sono collegate tramite NVIDIA NVLink di terza generazione e sei dispositivi NVIDIA NVSwitch di seconda generazione, creando una fabric di comunicazione GPU ad alta larghezza di banda. Questa architettura fornisce fino a 600GB/s di banda GPU-to-GPU e consente a più acceleratori di operare efficientemente come un unico dominio di calcolo per carichi distribuiti complessi.

Il sistema è alimentato da due processori AMD EPYC 7742 con 64 core ciascuno, per un totale di 128 core CPU. La configurazione di fabbrica supporta fino a 2TB di memoria di sistema, abilitando preparazione dei dati, carichi containerizzati e attività di elaborazione lato CPU richieste dalle pipeline AI.

Principali casi d’uso

• Training e fine-tuning di modelli AI. DGX A100 accelera lo sviluppo e l’ottimizzazione di modelli deep learning, tra cui computer vision, elaborazione del linguaggio naturale, sistemi di raccomandazione e applicazioni AI aziendali.
• Carichi di inferenza su larga scala. La piattaforma è progettata per il deployment di servizi AI in produzione, applicazioni intelligenti, sistemi decisionali automatizzati ed esecuzione di modelli in tempo reale.
• Analisi dei dati e calcolo accelerato. DGX A100 supporta analisi accelerate da GPU, calcolo scientifico, simulazioni e carichi che combinano metodi HPC tradizionali con machine learning.
• Ambienti AI multiutente. La tecnologia NVIDIA Multi-Instance GPU (MIG) consente di suddividere ogni GPU A100 in un massimo di sette istanze GPU isolate con risorse dedicate di memoria e calcolo, migliorando l’utilizzo delle risorse per più team e applicazioni.
• Infrastruttura AI enterprise. DGX A100 offre una base standardizzata per organizzazioni che costruiscono piattaforme AI interne, ambienti di ricerca e operazioni di machine learning scalabili.

NVIDIA DGX A100 nell’infrastruttura enterprise

NVIDIA DGX A100 è pensato per organizzazioni che richiedono risorse di calcolo AI dedicate per sviluppo continuo, test e deployment in produzione. La piattaforma consente a team di data science, ingegneri AI e sviluppatori enterprise di lavorare in un ambiente hardware e software coerente, invece di gestire separatamente server accelerati e livelli di integrazione.

Il sistema può essere distribuito come singolo nodo AI o integrato in ambienti NVIDIA più ampi. Nella pianificazione di un deployment enterprise, le organizzazioni dovrebbero valutare non solo le prestazioni GPU, ma anche l’architettura di rete, i requisiti di storage esterno, la distribuzione dei carichi di lavoro e la predisposizione del data center.

Grazie al design hardware integrato, all’ecosistema software NVIDIA e al supporto per deployment AI scalabili, DGX A100 aiuta le aziende ad abbreviare il percorso dalla sperimentazione AI all’uso in produzione. La piattaforma offre una base affidabile per servizi di machine learning, piattaforme di analisi e applicazioni HPC che richiedono prestazioni prevedibili e gestione semplificata dell’infrastruttura.