Servidor NVIDIA DGX H100
- Estado
- New
- Fabricante
- NVIDIA
- Formato
- 8U
- CPU
- 2x Intel Xeon Platinum 8480C (56c/112t, 2GHz-3.8GHz, 350W)
- RAM
- 2000GB (DDR5 ECC REG)
- NIC card
- 8x ConnectX-7 via 4x OSFP
- GPU
- 8 x NVIDIA H100
¿Necesita una consulta técnica para elegir un servidor?
Enviar una solicitudNVIDIA DGX H100 es un sistema integrado de computación acelerada diseñado para cargas de trabajo empresariales de inteligencia artificial, aprendizaje automático, IA generativa, analítica y computación de alto rendimiento (HPC). Basada en ocho GPU NVIDIA H100 Tensor Core, la plataforma ofrece una arquitectura unificada para entrenamiento de IA, inferencia y procesamiento de datos a gran escala en centros de datos modernos.
A diferencia de un servidor GPU tradicional ensamblado a partir de componentes individuales, NVIDIA DGX H100 combina aceleración GPU, interconexiones de alta velocidad, almacenamiento, red y una pila de software NVIDIA validada en una única plataforma preparada para entornos empresariales. Puede funcionar como un nodo de cómputo de IA independiente o como bloque de construcción para clústeres DGX escalables.
Arquitectura GPU para entrenamiento e inferencia de IA
NVIDIA DGX H100 está equipada con ocho GPU NVIDIA H100 Tensor Core basadas en la arquitectura NVIDIA Hopper. El sistema proporciona 640GB de memoria GPU total, ofreciendo a las empresas la capacidad necesaria para grandes modelos de IA, cargas de IA generativa, analítica acelerada y aplicaciones HPC.
La GPU NVIDIA H100 Tensor Core está diseñada para cargas de IA exigentes, incluido entrenamiento y ajuste fino de grandes modelos de lenguaje, inferencia, sistemas de recomendación, visión por ordenador, analítica y computación científica. Los Tensor Cores con soporte para computación avanzada de precisión mixta ayudan a acelerar las operaciones de redes neuronales y mantienen la precisión requerida en cargas de producción.
Las ocho GPU se conectan mediante NVIDIA NVLink de cuarta generación y cuatro dispositivos NVIDIA NVSwitch de cuarta generación, creando una estructura de comunicación GPU de gran ancho de banda. Esta arquitectura proporciona hasta 900GB/s de ancho de banda GPU a GPU y permite que varios aceleradores trabajen de forma eficiente como un único dominio de cómputo para cargas distribuidas exigentes.
El sistema está impulsado por dos procesadores Intel Xeon 8480C con 56 núcleos cada uno, lo que proporciona 112 núcleos de CPU en total. La configuración de fábrica incluye 2TB de memoria del sistema, lo que facilita la preparación de datos, las cargas en contenedores y las tareas de procesamiento del lado de la CPU necesarias en canalizaciones de IA.
Principales casos de uso
- Entrenamiento y ajuste fino de modelos de IA. DGX H100 acelera el desarrollo y la optimización de modelos de IA a gran escala, incluida IA generativa, procesamiento del lenguaje natural, visión por ordenador, sistemas de recomendación y aplicaciones de IA empresarial.
- Cargas de inferencia a gran escala. La plataforma está diseñada para desplegar servicios de IA en producción, aplicaciones inteligentes, sistemas de decisión automatizada, chatbots y ejecución de modelos en tiempo real.
- Analítica de datos y computación acelerada. DGX H100 admite analítica acelerada por GPU, computación científica, simulaciones y cargas que combinan métodos tradicionales de HPC con aprendizaje automático.
- Entornos de IA multiusuario. La tecnología NVIDIA Multi-Instance GPU (MIG) permite particionar cada GPU H100 en hasta siete instancias GPU aisladas con recursos dedicados de memoria y cómputo, mejorando la utilización de recursos para varios equipos y aplicaciones.
- Infraestructura de IA empresarial. DGX H100 proporciona una base estandarizada para organizaciones que construyen plataformas internas de IA, entornos de investigación, operaciones de aprendizaje automático escalables e infraestructura privada de IA generativa.
NVIDIA DGX H100 en la infraestructura empresarial
NVIDIA DGX H100 está diseñada para organizaciones que requieren recursos dedicados de cómputo de IA para desarrollo continuo, pruebas y despliegue en producción. La plataforma permite a equipos de ciencia de datos, ingenieros de IA y desarrolladores empresariales trabajar en un entorno de hardware y software coherente, en lugar de gestionar servidores acelerados y capas de integración por separado.
El sistema puede desplegarse como un nodo de IA individual o integrarse en entornos NVIDIA de mayor escala. Al planificar un despliegue empresarial, las organizaciones deben evaluar no solo el rendimiento de las GPU, sino también la arquitectura de red, los requisitos de almacenamiento externo, la distribución de cargas, la disponibilidad eléctrica, la capacidad de refrigeración y la preparación del centro de datos.
Con su diseño de hardware integrado, el ecosistema de software NVIDIA y el soporte para despliegues de IA escalables, DGX H100 ayuda a las empresas a acortar el camino desde la experimentación con IA hasta el uso en producción. La plataforma ofrece una base fiable para servicios de IA generativa, plataformas de aprendizaje automático, soluciones de analítica y aplicaciones HPC que requieren rendimiento predecible y una gestión de infraestructura simplificada.
Queremos asegurarnos de que nuestro equipo sea totalmente confiable para usted. Por eso, todos nuestros equipos (incluso los nuevos) se someten a diagnósticos, pruebas y reemplazo de piezas completos.
Nuestro equipo está completamente equipado con diversas utilidades y software. No se preocupe, funcionará durante mucho tiempo.
Fuente de alimentación
Los componentes funcionan a plena capacidad y se prueban durante varios días. Si no estamos seguros de algo, lo reemplazamos.
Nuestra normativa exige las mismas pruebas tanto para equipos usados como nuevos. Por cierto, complementamos la garantía oficial del fabricante con nuestra propia garantía.