Servidor NVIDIA DGX H800
- Estado
- New
- Fabricante
- NVIDIA
- CPU
- 2x Intel Xeon Platinum 8480C (56C 105M Cache 2.00 GHz)
- RAM
- 32x 64GB DDR5 4800MHz
- Fuente de alimentación
- 6x3000W Titan
- RAID controller
- 9560-16iRAID
- HDD
- 8x3.84T NVMe PCIe/ 2x960Gb NVMe M.2
- NIC card
- 2xNVIDIA InfiniBand 400Gb/ 8xNVIDIA ConnectX-7 MCX75310AAS-NEAT400G
- GPU
- NVIDIA DELTA-NEXT Vulcan SXM5 8xNVIDIA H100 640G
¿Necesita una consulta técnica para elegir un servidor?
Enviar una solicitudNVIDIA DGX H800 es un sistema integrado de computación acelerada diseñado para cargas de trabajo empresariales de inteligencia artificial, aprendizaje automático, IA generativa, analítica y computación de alto rendimiento (HPC). Basada en ocho GPU NVIDIA H800 Tensor Core, la plataforma ofrece una arquitectura unificada para entrenamiento de IA, inferencia y procesamiento de datos a gran escala en centros de datos modernos.
A diferencia de un servidor GPU tradicional ensamblado a partir de componentes individuales, NVIDIA DGX H800 combina aceleración GPU, interconexiones de alta velocidad, almacenamiento, red y una pila de software NVIDIA validada en una única plataforma preparada para entornos empresariales. Puede funcionar como un nodo de cómputo de IA independiente o como bloque de construcción para clústeres DGX escalables.
Arquitectura GPU para entrenamiento e inferencia de IA
NVIDIA DGX H800 está equipada con ocho GPU NVIDIA H800 Tensor Core basadas en la arquitectura NVIDIA Hopper. Cada GPU proporciona 80GB de memoria, lo que da al sistema 640GB de memoria GPU total para grandes modelos de IA, cargas de IA generativa, analítica acelerada y aplicaciones HPC.
La GPU NVIDIA H800 Tensor Core está diseñada para cargas de IA exigentes, incluido entrenamiento y ajuste fino de grandes modelos de lenguaje, inferencia, sistemas de recomendación, visión por ordenador, analítica y computación científica. Los Tensor Cores con soporte para aceleración FP8, BFLOAT16, FP16, TF32 e INT8 ayudan a mejorar el rendimiento en canalizaciones de entrenamiento e inferencia.
La GPU H800 SXM admite conectividad NVIDIA NVLink de hasta 400GB/s y ancho de banda PCIe 5.0 de hasta 128GB/s. En un sistema DGX H800, estos aceleradores se integran en una plataforma multi-GPU que admite comunicación de alta velocidad dentro del nodo y ejecución eficiente de cargas de IA distribuidas.
El sistema utiliza una plataforma con dos procesadores Intel Xeon Platinum 8480C y 2TB de memoria del sistema, compatible con preparación de datos, orquestación, cargas en contenedores y tareas de procesamiento del lado de la CPU requeridas por canalizaciones empresariales de IA.
Principales casos de uso
- Entrenamiento y ajuste fino de modelos de IA. DGX H800 acelera el desarrollo y la optimización de modelos de IA a gran escala, incluida IA generativa, procesamiento del lenguaje natural, visión por ordenador, sistemas de recomendación y aplicaciones de IA empresarial.
- Cargas de inferencia a gran escala. La plataforma está diseñada para desplegar servicios de IA en producción, aplicaciones inteligentes, sistemas de decisión automatizada, chatbots y ejecución de modelos en tiempo real.
- Analítica de datos y computación acelerada. DGX H800 admite analítica acelerada por GPU, computación científica, simulaciones y cargas que combinan métodos tradicionales de HPC con aprendizaje automático.
- Entornos de IA multiusuario. La tecnología NVIDIA Multi-Instance GPU (MIG) permite particionar cada GPU H800 en hasta siete instancias GPU aisladas con recursos dedicados de memoria y cómputo, mejorando la utilización de recursos para varios equipos y aplicaciones.
- Infraestructura de IA empresarial. DGX H800 proporciona una base estandarizada para organizaciones que construyen plataformas internas de IA, entornos de investigación, operaciones de aprendizaje automático escalables e infraestructura privada de IA generativa.
NVIDIA DGX H800 en la infraestructura empresarial
NVIDIA DGX H800 está diseñada para organizaciones que requieren recursos dedicados de cómputo de IA para desarrollo continuo, pruebas y despliegue en producción. La plataforma permite a equipos de ciencia de datos, ingenieros de IA y desarrolladores empresariales trabajar en un entorno de hardware y software coherente, en lugar de gestionar servidores acelerados y capas de integración por separado.
El sistema puede desplegarse como un nodo de IA individual o integrarse en entornos NVIDIA de mayor escala. Al planificar un despliegue empresarial, las organizaciones deben evaluar no solo el rendimiento de las GPU, sino también la arquitectura de red, los requisitos de almacenamiento externo, la distribución de cargas, la disponibilidad eléctrica, la capacidad de refrigeración y la preparación del centro de datos.
Con su diseño de hardware integrado, el ecosistema de software NVIDIA y el soporte para despliegues de IA escalables, DGX H800 ayuda a las empresas a acortar el camino desde la experimentación con IA hasta el uso en producción. La plataforma ofrece una base fiable para servicios de IA generativa, plataformas de aprendizaje automático, soluciones de analítica y aplicaciones HPC que requieren rendimiento predecible y una gestión de infraestructura simplificada.
Queremos asegurarnos de que nuestro equipo sea totalmente confiable para usted. Por eso, todos nuestros equipos (incluso los nuevos) se someten a diagnósticos, pruebas y reemplazo de piezas completos.
Nuestro equipo está completamente equipado con diversas utilidades y software. No se preocupe, funcionará durante mucho tiempo.
Fuente de alimentación
Los componentes funcionan a plena capacidad y se prueban durante varios días. Si no estamos seguros de algo, lo reemplazamos.
Nuestra normativa exige las mismas pruebas tanto para equipos usados como nuevos. Por cierto, complementamos la garantía oficial del fabricante con nuestra propia garantía.