Arbeitsstationen

NVIDIA DGX Spark ist ein kompakter persönlicher KI-Supercomputer für die Entwicklung von Unternehmens-KI, generative KI, agentenbasierte Anwendungen, maschinelles Lernen, Data Science und die Prototypenerstellung von Edge-Lösungen. Auf Basis des NVIDIA GB10 Grace Blackwell Superchips vereint die Plattform eine integrierte Blackwell-GPU, eine Arm-CPU mit 20 Kernen und 128GB kohärenten Unified Memory in einem Desktop-Formfaktor.

Im Unterschied zu einer konventionellen Workstation aus separat ausgewählten Komponenten kombiniert NVIDIA DGX Spark GPU-Beschleunigung, gemeinsamen Speicher, lokalen Massenspeicher, Hochgeschwindigkeitsnetzwerke und den validierten NVIDIA AI Software Stack in einer integrierten Plattform. Das System kann als eigenständiger KI-Entwicklungsknoten eingesetzt oder über NVIDIA ConnectX-7 mit einem zweiten DGX Spark verbunden werden, um mit größeren Modellen zu arbeiten.

GPU-Architektur für KI-Entwicklung und Inferenz

NVIDIA DGX Spark ist mit einem NVIDIA GB10 Grace Blackwell Superchip ausgestattet. Er kombiniert eine GPU auf Basis der Blackwell-Architektur mit Tensor Cores der fünften Generation und RT Cores der vierten Generation sowie eine Arm-CPU mit 20 Kernen, bestehend aus 10 Cortex-X925- und 10 Cortex-A725-Kernen. CPU und GPU nutzen gemeinsam 128GB kohärenten LPDDR5X-Unified-Memory mit einer Bandbreite von 273GB/s.

Die integrierte Blackwell-GPU erreicht bis zu 1 PFLOP KI-Leistung bei FP4-Präzision mit Sparsity und verfügt über 6.144 CUDA-Kerne. Diese Architektur ermöglicht die lokale Entwicklung, Erprobung und Inferenz von KI-Modellen mit bis zu 200 Milliarden Parametern sowie das Fine-Tuning unterstützter Modelle mit bis zu 70 Milliarden Parametern.

NVIDIA ConnectX-7 stellt eine Hochgeschwindigkeitsanbindung für Datenübertragungen und systemübergreifende Workflows bereit. Zwei DGX-Spark-Systeme können verbunden werden, um mit KI-Modellen mit bis zu 405 Milliarden Parametern zu arbeiten. Zusätzlich bietet die Plattform 10GbE, Wi-Fi 7, Bluetooth 5.4, USB Type-C und HDMI für die Integration in Entwicklungsumgebungen von Unternehmen.

Diese Konfiguration enthält eine selbstverschlüsselnde 4TB-NVMe-M.2-SSD für Betriebssystem, Modelle, Datensätze und lokale Projektdaten. NVIDIA DGX OS und der vorinstallierte NVIDIA AI Software Stack stellen CUDA, NGC, PyTorch, TensorRT-LLM, Container-Werkzeuge sowie optimierte Bibliotheken und Frameworks für Unternehmens-KI bereit.

Zentrale Einsatzszenarien

• Entwicklung und Prototyping von KI-Modellen. DGX Spark bietet eine lokale Umgebung zum Erstellen, Testen und Validieren generativer KI-Modelle, KI-Agenten, Machine-Learning-Anwendungen und unternehmensbezogener Proofs of Concept.
• Fine-Tuning von Modellen. Die Architektur mit 128GB Unified Memory unterstützt das Fine-Tuning kompatibler Modelle mit bis zu 70 Milliarden Parametern für unternehmenseigene Datensätze und Geschäftsprozesse.
• Lokale Inferenz. Die Plattform kann KI-Modelle mit bis zu 200 Milliarden Parametern testen, validieren und für Inferenz ausführen, ohne jede Arbeitslast an eine externe Cloud-Infrastruktur übertragen zu müssen.
• Agentenbasierte und private KI-Anwendungen. DGX Spark eignet sich für die Entwicklung autonomer Agenten, RAG-Lösungen, interner Assistenten und Anwendungen, die von lokaler Datenverarbeitung profitieren.
• Data Science und Edge-Entwicklung. Das System unterstützt beschleunigte Analysen sowie die Entwicklung von Computer-Vision-, Robotik-, Smart-City- und weiteren Edge-Anwendungen mit dem NVIDIA AI-Ökosystem.

NVIDIA DGX Spark in Unternehmensinfrastrukturen

NVIDIA DGX Spark richtet sich an Organisationen, die dedizierte lokale KI-Ressourcen für Entwicklung, Experimente, Validierung und ausgewählte Produktiv-Workloads benötigen, ohne für jedes Projekt einen GPU-Rackserver bereitzustellen. Dank des kompakten Formfaktors können KI-Ingenieure, Entwickler, Forschende und Data Scientists direkt am Arbeitsplatz mit dem NVIDIA Software-Ökosystem arbeiten.

Die lokale Ausführung kann die Abhängigkeit von cloudbasierten Inferenzressourcen reduzieren und ermöglicht es Teams, ausgewählte Modelle und Datensätze innerhalb der Unternehmensumgebung zu verarbeiten. Für größere Projekte lassen sich zwei DGX-Spark-Systeme über ConnectX-7 verbinden; validierte Anwendungen können anschließend in NVIDIA DGX Cloud oder eine NVIDIA-beschleunigte Rechenzentrumsinfrastruktur migriert werden.

Mit dem GB10 Grace Blackwell Superchip, 128GB kohärentem Unified Memory, einer 4TB-NVMe-SSD und dem vorinstallierten NVIDIA AI Software Stack bietet DGX Spark eine praxisgerechte Plattform für Unternehmen, die generative KI, autonome Agenten, private KI-Dienste, Data-Science-Lösungen und Edge-Anwendungen mit lokaler Kontrolle und einem konsistenten Weg vom Prototyp bis zur Bereitstellung entwickeln.