Serwer NVIDIA DGX B300
- Stan
- New
- Producent
- NVIDIA
- Obsługiwany procesor
- 2x Intel Xeon Platinum 6776P
- Obsługiwana pamięć RAM
- 32x 64GB DDR5-6400 (4TB)
- Zasilacz
- 12x 3000W
- Zatoki HDD
- 2x 1.92TB NVMe SSD / 8x 3.84TB NVMe SSD
- GPU
- 8 x NVIDIA Blackwell Ultra SXM
Potrzebujesz konsultacji technicznej przy wyborze serwera?
Wyślij zgłoszenieNVIDIA DGX B300 to zintegrowany system akcelerowanego przetwarzania, zaprojektowany z myślą o firmowych obciążeniach sztucznej inteligencji, uczenia maszynowego, generatywnej AI, rozumowania AI, analityki oraz high-performance computing (HPC). Oparty na ośmiu GPU NVIDIA B300 Blackwell Ultra Tensor Core, system zapewnia jednolitą architekturę do trenowania AI, inferencji i przetwarzania danych na dużą skalę w nowoczesnych centrach danych.
W przeciwieństwie do tradycyjnego serwera GPU złożonego z pojedynczych komponentów, NVIDIA DGX B300 łączy akcelerację GPU, szybkie połączenia, pamięć masową, sieć oraz zweryfikowany stos oprogramowania NVIDIA w jednej platformie gotowej do zastosowań biznesowych. Może działać jako samodzielny węzeł obliczeniowy AI lub jako element skalowalnych klastrów opartych na DGX.
Architektura GPU do trenowania i inferencji AI
NVIDIA DGX B300 jest wyposażony w osiem GPU NVIDIA B300 Blackwell Ultra Tensor Core. System oferuje 8 x 288 GB pamięci GPU, czyli około 2,3 TB łącznie, zapewniając firmom pojemność potrzebną do modeli rozumowania, dużych modeli językowych, aplikacji generatywnej AI, akcelerowanej analityki oraz obciążeń HPC.
GPU NVIDIA B300 Blackwell Ultra jest zaprojektowany do wymagających obciążeń AI, w tym trenowania dużych modeli językowych, dostrajania, inferencji, agentowej AI, systemów rekomendacyjnych, widzenia komputerowego, analityki i obliczeń naukowych. Tensor Cores z obsługą obliczeń o mieszanej precyzji pomagają przyspieszać operacje sieci neuronowych, zachowując dokładność wymaganą w środowiskach produkcyjnych.
Osiem GPU jest połączonych za pomocą NVIDIA NVLink piątej generacji oraz dwóch systemów przełączania NVIDIA NVLink piątej generacji, tworząc wysokoprzepustową strukturę komunikacji GPU. Architektura ta zapewnia 14,4 TB/s zagregowanej przepustowości NVLink i pozwala wielu akceleratorom efektywnie działać jako jedna domena obliczeniowa dla wymagających obciążeń rozproszonych.
System jest napędzany przez dwa procesory Intel Xeon Platinum 6776P, każdy z 64 rdzeniami, co daje łącznie 128 rdzeni CPU. Konfiguracja fabryczna obejmuje 2 TB pamięci systemowej z możliwością rozbudowy do 4 TB, wspierając efektywne przygotowanie danych, obciążenia kontenerowe i zadania przetwarzania po stronie CPU wymagane w potokach AI.
Główne zastosowania
- Trenowanie i dostrajanie modeli AI. DGX B300 przyspiesza rozwój i optymalizację dużych modeli AI, w tym modeli rozumowania, generatywnej AI, przetwarzania języka naturalnego, widzenia komputerowego, systemów rekomendacyjnych oraz firmowych aplikacji AI.
- Inferencja na dużą skalę. Platforma jest przeznaczona do wdrażania produkcyjnych usług AI, inteligentnych aplikacji, agentów AI, zautomatyzowanych systemów decyzyjnych, chatbotów i wykonywania modeli w czasie rzeczywistym.
- Analityka danych i akcelerowane obliczenia. DGX B300 wspiera analitykę akcelerowaną przez GPU, obliczenia naukowe, symulacje oraz obciążenia łączące tradycyjne metody HPC z uczeniem maszynowym.
- Wieloużytkownikowe środowiska AI. Technologia NVIDIA Multi-Instance GPU (MIG) umożliwia obsługiwane partycjonowanie GPU na izolowane instancje z dedykowanymi zasobami obliczeniowymi i pamięcią, poprawiając wykorzystanie zasobów przez wiele zespołów i aplikacji.
- Firmowa infrastruktura AI. DGX B300 zapewnia standaryzowaną podstawę dla organizacji budujących wewnętrzne platformy AI, środowiska badawcze, skalowalne operacje uczenia maszynowego oraz prywatną infrastrukturę fabryki AI.
NVIDIA DGX B300 w infrastrukturze przedsiębiorstwa
NVIDIA DGX B300 został zaprojektowany dla organizacji, które potrzebują dedykowanych zasobów obliczeniowych AI do ciągłego rozwoju, testów i wdrożeń produkcyjnych. Platforma umożliwia zespołom data science, inżynierom AI i programistom firmowym pracę w spójnym środowisku sprzętowo-programowym zamiast zarządzania oddzielnymi serwerami akcelerowanymi i warstwami integracji.
System może być wdrożony jako pojedynczy węzeł AI lub zintegrowany z większymi środowiskami opartymi na NVIDIA. Planując wdrożenie firmowe, organizacje powinny ocenić nie tylko wydajność GPU, lecz także architekturę sieci, wymagania dotyczące zewnętrznej pamięci masowej, dystrybucję obciążeń, dostępność zasilania, możliwości chłodzenia oraz gotowość centrum danych.
Dzięki zintegrowanej konstrukcji sprzętowej, ekosystemowi oprogramowania NVIDIA i wsparciu skalowalnych wdrożeń AI, DGX B300 pomaga firmom skrócić drogę od eksperymentów z AI do zastosowań produkcyjnych. Platforma stanowi niezawodną podstawę dla usług rozumowania AI, platform generatywnej AI, rozwiązań analitycznych i aplikacji HPC wymagających przewidywalnej wydajności oraz uproszczonego zarządzania infrastrukturą.
w Servermall
gwarancji
testowanie
Chcemy mieć pewność, że nasz sprzęt jest dla Ciebie w pełni niezawodny. Dlatego cały nasz sprzęt (nawet nowy) podlega pełnej diagnostyce, testowaniu i wymianie części.
testowanie
W pełni ładujemy nasz sprzęt różnymi narzędziami i oprogramowaniem. Bądź pewien, że będzie działał przez bardzo długi czas.
Zasilanie
The components work at full capacity and are tested for several days. If we are not sure about something, we replace it.
of all equipment
Our regulations imply the same testing for both used and new equipment. Oh, and by the way, we complement the official manufacturer’s warranty with our own warranty.