Estaciones de trabajo

NVIDIA DGX Spark es un supercomputador personal de IA compacto diseñado para el desarrollo de IA empresarial, IA generativa, aplicaciones basadas en agentes, aprendizaje automático, ciencia de datos y creación de prototipos para el edge. Basada en el superchip NVIDIA GB10 Grace Blackwell, la plataforma integra una GPU Blackwell, una CPU Arm de 20 núcleos y 128GB de memoria unificada coherente en un formato de sobremesa.

A diferencia de una estación de trabajo convencional montada a partir de componentes independientes, NVIDIA DGX Spark combina aceleración por GPU, memoria unificada, almacenamiento local, conectividad de alta velocidad y la pila de software de IA validada de NVIDIA en una plataforma integrada. Puede funcionar como nodo autónomo de desarrollo de IA o conectarse a un segundo sistema DGX Spark mediante NVIDIA ConnectX-7 para trabajar con modelos de mayor tamaño.

Arquitectura de GPU para desarrollo e inferencia de IA

NVIDIA DGX Spark incorpora un superchip NVIDIA GB10 Grace Blackwell. Combina una GPU con arquitectura Blackwell, Tensor Cores de quinta generación y RT Cores de cuarta generación con una CPU Arm de 20 núcleos formada por 10 Cortex-X925 y 10 Cortex-A725. La CPU y la GPU comparten 128GB de memoria unificada coherente LPDDR5X con un ancho de banda de 273GB/s.

La GPU Blackwell integrada ofrece hasta 1 PFLOP de rendimiento de IA con precisión FP4 y sparsity, e incluye 6.144 núcleos CUDA. Esta arquitectura permite desarrollar, probar y ejecutar localmente inferencia con modelos de IA de hasta 200.000 millones de parámetros, además de ajustar modelos compatibles de hasta 70.000 millones de parámetros.

La conectividad NVIDIA ConnectX-7 proporciona enlaces de alta velocidad para la transferencia de datos y los flujos de trabajo entre sistemas. Es posible conectar dos equipos DGX Spark para trabajar con modelos de IA de hasta 405.000 millones de parámetros. La plataforma también incluye 10GbE, Wi-Fi 7, Bluetooth 5.4, USB Type-C y HDMI para su integración en entornos empresariales de desarrollo.

Esta configuración incluye una unidad SSD NVMe M.2 de 4TB con autocifrado para el sistema operativo, los modelos, los conjuntos de datos y el almacenamiento local de proyectos. NVIDIA DGX OS y la pila de software de IA de NVIDIA preinstalada proporcionan acceso a CUDA, NGC, PyTorch, TensorRT-LLM, herramientas de contenedores, bibliotecas optimizadas y frameworks utilizados en flujos de trabajo empresariales de IA.

Principales casos de uso

• Desarrollo y creación de prototipos de IA. DGX Spark ofrece un entorno local para crear, probar y validar modelos de IA generativa, agentes de IA, aplicaciones de aprendizaje automático y pruebas de concepto empresariales.
• Ajuste de modelos. La arquitectura de memoria unificada de 128GB permite ajustar modelos compatibles de hasta 70.000 millones de parámetros con datos y procesos específicos de la organización.
• Inferencia local. La plataforma permite probar, validar y ejecutar inferencia con modelos de IA de hasta 200.000 millones de parámetros sin enviar todas las cargas de trabajo a una infraestructura cloud externa.
• Aplicaciones de IA privada y basadas en agentes. DGX Spark es adecuado para desarrollar agentes autónomos, soluciones RAG, asistentes internos y aplicaciones que se benefician del procesamiento local de los datos.
• Ciencia de datos y desarrollo para el edge. El sistema admite analítica acelerada y el desarrollo de soluciones de visión artificial, robótica, ciudades inteligentes y otras aplicaciones de edge mediante el ecosistema de IA de NVIDIA.

NVIDIA DGX Spark en la infraestructura empresarial

NVIDIA DGX Spark está diseñado para organizaciones que necesitan recursos locales dedicados de IA para desarrollo, experimentación, validación y determinadas cargas de producción, sin desplegar un servidor GPU en rack para cada proyecto. Su formato compacto permite que ingenieros de IA, desarrolladores, investigadores y científicos de datos trabajen directamente desde el escritorio con el ecosistema de software de NVIDIA.

La ejecución local puede reducir la dependencia de recursos de inferencia en la nube y facilita que determinados modelos y conjuntos de datos permanezcan dentro del entorno de la organización. Para proyectos de mayor tamaño, se pueden conectar dos sistemas DGX Spark mediante ConnectX-7 y, posteriormente, migrar las aplicaciones validadas a NVIDIA DGX Cloud o a una infraestructura de centro de datos acelerada por NVIDIA.

Con el superchip GB10 Grace Blackwell, 128GB de memoria unificada coherente, una unidad SSD NVMe de 4TB y la pila de software de IA de NVIDIA preinstalada, DGX Spark proporciona una plataforma práctica para organizaciones que desarrollan IA generativa, agentes autónomos, servicios de IA privada, soluciones de ciencia de datos y aplicaciones de edge que requieren control local y una transición coherente desde el prototipo hasta el despliegue.