Servidor NVIDIA DGX A100

NVIDIA DGX A100 es un sistema integrado de computación acelerada diseñado para cargas de trabajo empresariales de inteligencia artificial, aprendizaje automático, analítica y computación de alto rendimiento (HPC). Basada en ocho GPU NVIDIA A100 Tensor Core, la plataforma ofrece una arquitectura unificada para entrenamiento de IA, inferencia y procesamiento de datos a gran escala en centros de datos modernos.

A diferencia de un servidor GPU tradicional ensamblado a partir de componentes individuales, NVIDIA DGX A100 combina aceleración GPU, interconexiones de alta velocidad, almacenamiento, red y una pila de software NVIDIA validada en una única plataforma preparada para entornos empresariales. Puede funcionar como un nodo de cómputo de IA independiente o como bloque de construcción para clústeres DGX escalables.

Arquitectura GPU para entrenamiento e inferencia de IA

NVIDIA DGX A100 está equipada con ocho GPU NVIDIA A100 Tensor Core basadas en la arquitectura NVIDIA Ampere. El sistema está disponible en configuraciones de 640GB y 320GB, con ocho GPU en ambas versiones. El modelo DGX A100 640GB proporciona 640GB de memoria GPU total, mientras que el modelo DGX A100 320GB proporciona 320GB de memoria GPU total.

La GPU NVIDIA A100 Tensor Core está diseñada para una amplia variedad de cargas de trabajo de IA, incluido entrenamiento de deep learning, inferencia, analítica y aplicaciones HPC. Los Tensor Cores con soporte para computación de precisión mixta aceleran las operaciones de redes neuronales y mantienen la precisión requerida en cargas de producción.

Las ocho GPU se conectan mediante NVIDIA NVLink de tercera generación y seis dispositivos NVIDIA NVSwitch de segunda generación, creando una estructura de comunicación GPU de gran ancho de banda. Esta arquitectura proporciona hasta 600GB/s de ancho de banda GPU a GPU y permite que varios aceleradores trabajen de forma eficiente como un único dominio de cómputo para cargas distribuidas exigentes.

El sistema está impulsado por dos procesadores AMD EPYC 7742 con 64 núcleos cada uno, lo que proporciona 128 núcleos de CPU en total. La configuración de fábrica admite hasta 2TB de memoria del sistema, lo que facilita la preparación de datos, las cargas en contenedores y las tareas de procesamiento del lado de la CPU necesarias en canalizaciones de IA.

Principales casos de uso

• Entrenamiento y ajuste fino de modelos de IA. DGX A100 acelera el desarrollo y la optimización de modelos de deep learning, incluidos visión por ordenador, procesamiento del lenguaje natural, sistemas de recomendación y aplicaciones de IA empresarial.
• Cargas de inferencia a gran escala. La plataforma está diseñada para desplegar servicios de IA en producción, aplicaciones inteligentes, sistemas de decisión automatizada y ejecución de modelos en tiempo real.
• Analítica de datos y computación acelerada. DGX A100 admite analítica acelerada por GPU, computación científica, simulaciones y cargas que combinan métodos tradicionales de HPC con aprendizaje automático.
• Entornos de IA multiusuario. La tecnología NVIDIA Multi-Instance GPU (MIG) permite particionar cada GPU A100 en hasta siete instancias GPU aisladas con recursos dedicados de memoria y cómputo, mejorando la utilización de recursos para varios equipos y aplicaciones.
• Infraestructura de IA empresarial. DGX A100 proporciona una base estandarizada para organizaciones que construyen plataformas internas de IA, entornos de investigación y operaciones de aprendizaje automático escalables.

NVIDIA DGX A100 en la infraestructura empresarial

NVIDIA DGX A100 está diseñada para organizaciones que requieren recursos dedicados de cómputo de IA para desarrollo continuo, pruebas y despliegue en producción. La plataforma permite a equipos de ciencia de datos, ingenieros de IA y desarrolladores empresariales trabajar en un entorno de hardware y software coherente, en lugar de gestionar servidores acelerados y capas de integración por separado.

El sistema puede desplegarse como un nodo de IA individual o integrarse en entornos NVIDIA de mayor escala. Al planificar un despliegue empresarial, las organizaciones deben evaluar no solo el rendimiento de las GPU, sino también la arquitectura de red, los requisitos de almacenamiento externo, la distribución de cargas y la preparación del centro de datos.

Con su diseño de hardware integrado, el ecosistema de software NVIDIA y el soporte para despliegues de IA escalables, DGX A100 ayuda a las empresas a acortar el camino desde la experimentación con IA hasta el uso en producción. La plataforma ofrece una base fiable para servicios de aprendizaje automático, plataformas de analítica y aplicaciones HPC que requieren rendimiento predecible y una gestión de infraestructura simplificada.