Servidor Supermicro AS-8125GS-TNHR
- Estado
- New
- Fabricante
- Supermicro
- Formato
- 8U
- RAM
- 6144GB (DDR5 ECC REG)
- GPU
- 8 x NVIDIA H100
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA H100
- Installed GPU/APU count
- 8 onboard GPUs
- Maximum GPU/APU count
- 8 onboard GPUs
- Memory per accelerator
- 80GB
- Total accelerator memory
- 640GB
- GPU memory type
- HBM3
- Accelerator memory bandwidth
- 3350 GB/s (3.35 TB/s) per GPU
- Accelerator form factor
- SXM5
- Accelerator interconnect
- NVIDIA NVLink with NVSwitch
- Accelerator-to-CPU interface
- PCIe 5.0 x16 per GPU
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8, INT8
- Accelerator virtualization
- NVIDIA vGPU, SR-IOV, GPU passthrough
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA; NVIDIA AI Enterprise-compatible
- Maximum system power
- 9kW
- Cooling
- Air cooling with up to 10 heavy-duty fans and optimal fan-speed control
- Recommended workloads
- Large-scale AI and deep learning training, LLM workloads, HPC, simulation and scientific computing
- Dimensions
- 355.6 x 437 x 843.28 mm (H x W x D)
- Weight
- 75.3 kg
¿Necesita una consulta técnica para elegir un servidor?
Enviar una solicitudSupermicro AS-8125GS-TNHR 12SFF/NVMe + 2SFF es una configuración de almacenamiento para servidor empresarial de 8U con doce bahías hot-swap frontales NVMe de 2,5 pulgadas más dos bahías hot-swap frontales SATA de 2,5 pulgadas. Está diseñada para fábricas de IA, centros de investigación, proveedores cloud y centros de datos empresariales que necesitan almacenamiento local rápido para cargas de IA y HPC.
Características principales:
-
Configuración de unidades y acceso de servicio: La cesta de almacenamiento seleccionada incluye doce bahías hot-swap frontales NVMe de 2,5 pulgadas más dos bahías hot-swap frontales SATA de 2,5 pulgadas. Las unidades hot-swap compatibles pueden mantenerse desde el frontal sin abrir el chasis, lo que ayuda a reducir el tiempo de mantenimiento planificado.
-
Subsistema de aceleración instalado: El subsistema de aceleración instalado incorpora 8 x NVIDIA H100 SXM5. Ofrece un total de 640GB HBM3 (8 x 80GB). NVIDIA NVLink de cuarta generación con NVSwitch proporciona comunicaciones de gran ancho de banda en el complejo HGX H100.
-
Topología de almacenamiento y ruta de datos: Doce bahías NVMe forman la capa de datos de alto rendimiento y dos bahías SATA proporcionan una capa independiente de servicio o arranque. Las cuatro bahías NVMe opcionales adicionales no forman parte de esta configuración 12NVMe+2SFF.
-
Plataforma de computación empresarial: El subsistema de cómputo instalado combina dos procesadores AMD EPYC de la serie 9004 con 6.144GB de memoria DDR5 ECC registrada. Aporta los recursos de CPU, memoria y PCIe necesarios para alimentar el subsistema de aceleración y alojar servicios de producción.
-
Gestión y disponibilidad: Conectividad BMC dedicada y herramientas Supermicro para la gestión del ciclo de vida, junto con 6 fuentes de alimentación redundantes de 3000W (3+3) 80 PLUS Titanium, facilitan la administración remota, la supervisión de componentes, las operaciones de mantenimiento planificado y el funcionamiento resiliente en el centro de datos.
Casos de uso:
-
Desarrollo de modelos de IA: Utiliza el subsistema NVIDIA H100 SXM5 instalado para desarrollo, entrenamiento y ajuste fino de modelos adecuados para la arquitectura del acelerador.
-
Inferencia y servicios en producción: Aporta cálculo paralelo y memoria de acelerador para servicios de inferencia LLM, multimodal y empresarial.
-
HPC, simulación y analítica: Acelera computación científica, simulación numérica, ingeniería, analítica y otras cargas paralelas compatibles con el subsistema instalado.
-
Pipelines intensivos en datos: Combina la cesta 12SFF/NVMe+2SFF indicada con rutas de aceleración y red de gran ancho de banda para conjuntos de datos, checkpoints, preparación y almacenamiento temporal local.
Supermicro AS-8125GS-TNHR 12SFF/NVMe + 2SFF es una configuración de almacenamiento 12SFF/NVMe+2SFF definida con precisión para organizaciones que necesitan esta cesta de unidades, aceleración NVIDIA H100 SXM5 instalada y una gestión fiable del ciclo de vida empresarial.
Queremos asegurarnos de que nuestro equipo sea totalmente confiable para usted. Por eso, todos nuestros equipos (incluso los nuevos) se someten a diagnósticos, pruebas y reemplazo de piezas completos.
Nuestro equipo está completamente equipado con diversas utilidades y software. No se preocupe, funcionará durante mucho tiempo.
Fuente de alimentación
Los componentes funcionan a plena capacidad y se prueban durante varios días. Si no estamos seguros de algo, lo reemplazamos.
Nuestra normativa exige las mismas pruebas tanto para equipos usados como nuevos. Por cierto, complementamos la garantía oficial del fabricante con nuestra propia garantía.