Serwer NVIDIA DGX B300
- Stan
- New
- Producent
- NVIDIA
- CPU
- 2x Intel Xeon 6776P (64c/128t, 2.3GHz-3.9GHz, 350W)
- RAM
- 2000GB (DDR5 ECC REG)
- NIC card
- ConnectX-8 + BlueField-3 DPU + 1GbE RJ45
- GPU
- 8 x NVIDIA B300 SXM
- Accelerator manufacturer
- NVIDIA
- Accelerator model
- NVIDIA B300 Blackwell Ultra
- Installed GPU/APU count
- 8 GPUs
- Maximum GPU/APU count
- 8 SXM GPUs
- Memory per accelerator
- 288GB
- Total accelerator memory
- 2304GB
- GPU memory type
- HBM3e
- Accelerator memory bandwidth
- Up to 8TB/s per GPU
- Accelerator form factor
- SXM
- Accelerator interconnect
- Fifth-generation NVIDIA NVLink with two NVLink switches
- Accelerator-to-CPU interface
- PCIe 5.0
- Supported compute data types
- FP64, FP32, TF32, BF16, FP16, FP8, FP6, FP4 and INT8
- Accelerator virtualization
- MIG-backed NVIDIA vGPU, SR-IOV and GPU passthrough
- MIG support
- Up to 7 isolated GPU instances per GPU
- Software ecosystem
- NVIDIA CUDA, NVIDIA AI Enterprise, NVIDIA DGX OS, NVIDIA NGC, NVIDIA Mission Control, NVIDIA Dynamo and NVIDIA Transformer Engine
- Maximum system power
- 15kW
- Cooling
- Air cooling with front-to-back chassis airflow and redundant hot-swap fan modules
- Recommended workloads
- AI reasoning, agentic AI, generative AI and large-language-model training, fine-tuning and inference, multimodal AI, accelerated analytics, scientific computing and HPC
- Dimensions
- 442 x 482.6 x 904.2 mm (H x W x D)
- Weight
- 168 kg for the AC PSU configuration
Potrzebujesz konsultacji technicznej przy wyborze serwera?
Wyślij zgłoszenieNVIDIA DGX B300 to zintegrowany system obliczeń akcelerowanych przeznaczony do firmowych obciążeń z zakresu sztucznej inteligencji, uczenia maszynowego, generatywnej AI, analityki oraz obliczeń wysokiej wydajności (HPC). Ta nowa konfiguracja NVIDIA opiera się na ośmiu GPU NVIDIA B300 SXM i zapewnia ujednoliconą architekturę do trenowania AI, inferencji oraz przetwarzania danych na dużą skalę w nowoczesnych centrach danych.
W odróżnieniu od tradycyjnego serwera GPU składanego z oddzielnych komponentów, NVIDIA DGX B300 łączy akcelerację GPU, szybkie połączenia międzykomponentowe, pamięć masową, sieć oraz zweryfikowany stos oprogramowania NVIDIA w jednej platformie gotowej do zastosowań korporacyjnych. W tej konfiguracji system obejmuje sieć NVIDIA ConnectX-8, DPU NVIDIA BlueField-3 oraz interfejs zarządzania 1GbE RJ45, dzięki czemu może działać jako samodzielny węzeł obliczeniowy AI lub jako element skalowalnych klastrów opartych na DGX.
Architektura GPU do trenowania AI i inferencji
NVIDIA DGX B300 jest wyposażony w osiem GPU NVIDIA B300 SXM opartych na architekturze NVIDIA Blackwell Ultra. Konfiguracja z ośmioma GPU zapewnia łącznie 2.304GB pamięci GPU, dając przedsiębiorstwom pojemność wymaganą dla dużych modeli językowych, usług generatywnej AI, akcelerowanej analityki i obciążeń HPC.
GPU NVIDIA B300 zaprojektowano z myślą o wymagających obciążeniach AI, takich jak trenowanie modeli na dużą skalę, fine-tuning, inferencja, systemy rekomendacyjne, widzenie komputerowe, analityka i obliczenia naukowe. Rdzenie Tensor Cores obsługujące zaawansowane obliczenia o niskiej i mieszanej precyzji pomagają przyspieszać operacje sieci neuronowych, zachowując wydajność i efektywność wymaganą w środowiskach produkcyjnych.
Osiem GPU jest połączonych za pomocą technologii NVIDIA NVLink piątej generacji oraz interkonektów NVIDIA NVSwitch, tworząc wysokoprzepustową strukturę komunikacji między GPU. Taka architektura pozwala wielu akceleratorom efektywnie pracować razem jako jedna domena obliczeniowa dla wymagających obciążeń rozproszonych.
System jest zasilany przez dwa procesory Intel Xeon 6776P, każdy z 64 rdzeniami i 128 wątkami, taktowaniem bazowym 2,3GHz, maksymalną częstotliwością do 3,9GHz oraz mocą procesora 350W. Ta konfiguracja obejmuje 2.000GB rejestrowanej pamięci DDR5 ECC, umożliwiając efektywne przygotowanie danych, orkiestrację, obsługę obciążeń kontenerowych oraz zadania przetwarzania po stronie CPU wymagane w korporacyjnych potokach AI.
Główne zastosowania
- Trenowanie i fine-tuning modeli AI. DGX B300 przyspiesza rozwój i optymalizację zaawansowanych modeli AI, w tym generatywnej AI, przetwarzania języka naturalnego, widzenia komputerowego, systemów rekomendacyjnych i firmowych aplikacji AI.
- Obciążenia inferencyjne na dużą skalę. Platforma jest przeznaczona do wdrażania produkcyjnych usług AI, inteligentnych aplikacji, zautomatyzowanych systemów decyzyjnych, chatbotów i wykonywania modeli w czasie rzeczywistym.
- Analityka danych i obliczenia akcelerowane. DGX B300 obsługuje analitykę przyspieszaną przez GPU, obliczenia naukowe, symulacje oraz obciążenia łączące tradycyjne metody HPC z uczeniem maszynowym.
- Wieloużytkownikowe środowiska AI. Platforma może obsługiwać izolowane i efektywnie harmonogramowane obciążenia akcelerowane dla wielu zespołów, pomagając organizacjom poprawić wykorzystanie zasobów w środowiskach rozwoju, testów i produkcji AI.
- Korporacyjna infrastruktura AI. DGX B300 zapewnia standaryzowaną podstawę dla organizacji budujących wewnętrzne platformy AI, środowiska badawcze, skalowalne operacje uczenia maszynowego oraz prywatną infrastrukturę generatywnej AI.
NVIDIA DGX B300 w infrastrukturze korporacyjnej
NVIDIA DGX B300 jest przeznaczony dla organizacji wymagających dedykowanych zasobów obliczeniowych AI do ciągłego rozwoju, testów i wdrożeń produkcyjnych. Platforma umożliwia zespołom data science, inżynierom AI i programistom korporacyjnym pracę w spójnym środowisku sprzętowo-programowym zamiast zarządzania oddzielnymi serwerami akceleratorowymi i warstwami integracyjnymi.
System może być wdrożony jako pojedynczy węzeł AI lub zintegrowany z większymi środowiskami opartymi na NVIDIA. Planując wdrożenie korporacyjne, organizacje powinny ocenić nie tylko wydajność GPU, ale także architekturę sieci, wymagania dotyczące zewnętrznej pamięci masowej, dystrybucję obciążeń, dostępność zasilania, możliwości chłodzenia oraz gotowość centrum danych.
Dzięki ośmiu GPU NVIDIA B300 SXM, dwóm procesorom Intel Xeon 6776P, 2.000GB rejestrowanej pamięci DDR5 ECC, sieci ConnectX-8, DPU BlueField-3 oraz ekosystemowi oprogramowania NVIDIA DGX, ta konfiguracja DGX B300 stanowi niezawodną podstawę dla organizacji rozwijających usługi generatywnej AI, platformy uczenia maszynowego, rozwiązania analityczne i aplikacje HPC wymagające przewidywalnej wydajności oraz uproszczonego zarządzania infrastrukturą.
w Servermall
gwarancji
testowanie
Chcemy mieć pewność, że nasz sprzęt jest dla Ciebie w pełni niezawodny. Dlatego cały nasz sprzęt (nawet nowy) podlega pełnej diagnostyce, testowaniu i wymianie części.
testowanie
W pełni ładujemy nasz sprzęt różnymi narzędziami i oprogramowaniem. Bądź pewien, że będzie działał przez bardzo długi czas.
Zasilanie
The components work at full capacity and are tested for several days. If we are not sure about something, we replace it.
of all equipment
Our regulations imply the same testing for both used and new equipment. Oh, and by the way, we complement the official manufacturer’s warranty with our own warranty.