Servidor NVIDIA DGX B300
- Estado
- New
- Fabricante
- NVIDIA
- CPU
- 2x Intel Xeon 6776P (64c/128t, 2.3GHz-3.9GHz, 350W)
- RAM
- 2000GB (DDR5 ECC REG)
- NIC card
- ConnectX-8 + BlueField-3 DPU + 1GbE RJ45
- GPU
- 8 x NVIDIA B300 SXM
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA B300 Blackwell Ultra
- Installed GPU/APU count
- 8 GPUs
- Maximum GPU/APU count
- 8 SXM GPUs
- Memory per accelerator
- 288GB
- Total accelerator memory
- 2304GB
- GPU memory type
- HBM3e
- Accelerator memory bandwidth
- Up to 8TB/s per GPU
- Accelerator form factor
- SXM
- Accelerator interconnect
- Fifth-generation NVIDIA NVLink with two NVLink switches
- Accelerator-to-CPU interface
- PCIe 5.0
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8, FP6, FP4 and INT8
- Accelerator virtualization
- MIG-backed NVIDIA vGPU, SR-IOV and GPU passthrough
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA, NVIDIA AI Enterprise, NVIDIA DGX OS, NVIDIA NGC, NVIDIA Mission Control, NVIDIA Dynamo and NVIDIA Transformer Engine
- Maximum system power
- 15kW
- Cooling
- Air cooling with front-to-back chassis airflow and redundant hot-swap fan modules
- Recommended workloads
- AI reasoning, agentic AI, generative AI and large-language-model training, fine-tuning and inference, multimodal AI, accelerated analytics, scientific computing and HPC
- Dimensions
- 442 x 482.6 x 904.2 mm (H x W x D)
- Weight
- 168 kg for the AC PSU configuration
¿Necesita una consulta técnica para elegir un servidor?
Enviar una solicitudNVIDIA DGX B300 es un sistema integrado de computación acelerada diseñado para cargas de trabajo empresariales de inteligencia artificial, aprendizaje automático, IA generativa, analítica y computación de alto rendimiento (HPC). Esta nueva configuración de NVIDIA está basada en ocho GPU NVIDIA B300 SXM y ofrece una arquitectura unificada para entrenamiento de IA, inferencia y procesamiento de datos a gran escala en centros de datos modernos.
A diferencia de un servidor GPU tradicional ensamblado a partir de componentes individuales, NVIDIA DGX B300 combina aceleración por GPU, interconexiones de alta velocidad, almacenamiento, redes y una pila de software NVIDIA validada en una única plataforma preparada para entornos empresariales. En esta configuración, el sistema incluye redes NVIDIA ConnectX-8, DPU NVIDIA BlueField-3 y una interfaz de gestión 1GbE RJ45, lo que permite utilizarlo como nodo de cómputo de IA independiente o como parte de clústeres escalables basados en DGX.
Arquitectura GPU para entrenamiento e inferencia de IA
NVIDIA DGX B300 está equipado con ocho GPU NVIDIA B300 SXM basadas en la arquitectura NVIDIA Blackwell Ultra. La configuración de ocho GPU proporciona 2.304GB de memoria GPU total, ofreciendo a las empresas la capacidad necesaria para grandes modelos de lenguaje, servicios de IA generativa, analítica acelerada y cargas de trabajo HPC.
La GPU NVIDIA B300 está diseñada para cargas de trabajo de IA exigentes, incluidos el entrenamiento de modelos a gran escala, el ajuste fino, la inferencia, los sistemas de recomendación, la visión artificial, la analítica y la computación científica. Los Tensor Cores con soporte para cómputo avanzado de baja precisión y precisión mixta ayudan a acelerar las operaciones de redes neuronales, manteniendo el rendimiento y la eficiencia necesarios para entornos de producción.
Las ocho GPU se conectan mediante tecnología NVIDIA NVLink de quinta generación e interconexiones NVIDIA NVSwitch, creando una estructura de comunicación GPU de alto ancho de banda. Esta arquitectura permite que varios aceleradores trabajen juntos de forma eficiente como un único dominio de cómputo para cargas de trabajo distribuidas exigentes.
El sistema está impulsado por dos procesadores Intel Xeon 6776P, cada uno con 64 núcleos y 128 hilos, frecuencia base de 2,3GHz, frecuencia máxima de hasta 3,9GHz y una potencia de procesador de 350W. Esta configuración incluye 2.000GB de memoria DDR5 ECC registrada, lo que permite una preparación de datos eficiente, orquestación, cargas de trabajo en contenedores y tareas de procesamiento del lado de la CPU requeridas por las canalizaciones empresariales de IA.
Principales casos de uso
- Entrenamiento y ajuste fino de modelos de IA. DGX B300 acelera el desarrollo y la optimización de modelos avanzados de IA, incluida IA generativa, procesamiento del lenguaje natural, visión artificial, sistemas de recomendación y aplicaciones empresariales de IA.
- Cargas de inferencia a gran escala. La plataforma está diseñada para desplegar servicios de IA en producción, aplicaciones inteligentes, sistemas automatizados de decisión, chatbots y ejecución de modelos en tiempo real.
- Analítica de datos y computación acelerada. DGX B300 admite analítica acelerada por GPU, computación científica, simulaciones y cargas de trabajo que combinan métodos tradicionales de HPC con aprendizaje automático.
- Entornos de IA multiusuario. La plataforma puede admitir cargas aceleradas aisladas y programadas de forma eficiente para varios equipos, ayudando a las organizaciones a mejorar la utilización de recursos en desarrollo, pruebas y producción de IA.
- Infraestructura empresarial de IA. DGX B300 proporciona una base estandarizada para organizaciones que crean plataformas internas de IA, entornos de investigación, operaciones escalables de aprendizaje automático e infraestructura privada de IA generativa.
NVIDIA DGX B300 en la infraestructura empresarial
NVIDIA DGX B300 está diseñado para organizaciones que necesitan recursos dedicados de cómputo de IA para desarrollo continuo, pruebas y despliegue en producción. La plataforma permite a los equipos de ciencia de datos, ingenieros de IA y desarrolladores empresariales trabajar en un entorno coherente de hardware y software, en lugar de gestionar servidores aceleradores y capas de integración por separado.
El sistema puede desplegarse como un nodo de IA individual o integrarse en entornos NVIDIA de mayor escala. Al planificar una implementación empresarial, las organizaciones deben evaluar no solo el rendimiento de la GPU, sino también la arquitectura de red, los requisitos de almacenamiento externo, la distribución de cargas de trabajo, la disponibilidad eléctrica, la capacidad de refrigeración y la preparación del centro de datos.
Con ocho GPU NVIDIA B300 SXM, dos procesadores Intel Xeon 6776P, 2.000GB de memoria DDR5 ECC registrada, redes ConnectX-8, DPU BlueField-3 y el ecosistema de software NVIDIA DGX, esta configuración DGX B300 proporciona una base fiable para organizaciones que desarrollan servicios de IA generativa, plataformas de aprendizaje automático, soluciones de analítica y aplicaciones HPC que requieren rendimiento predecible y gestión simplificada de la infraestructura.
Queremos asegurarnos de que nuestro equipo sea totalmente confiable para usted. Por eso, todos nuestros equipos (incluso los nuevos) se someten a diagnósticos, pruebas y reemplazo de piezas completos.
Nuestro equipo está completamente equipado con diversas utilidades y software. No se preocupe, funcionará durante mucho tiempo.
Fuente de alimentación
Los componentes funcionan a plena capacidad y se prueban durante varios días. Si no estamos seguros de algo, lo reemplazamos.
Nuestra normativa exige las mismas pruebas tanto para equipos usados como nuevos. Por cierto, complementamos la garantía oficial del fabricante con nuestra propia garantía.