Stacje robocze

NVIDIA DGX Spark to kompaktowy osobisty superkomputer AI przeznaczony do rozwoju rozwiązań sztucznej inteligencji dla firm, generatywnej AI, aplikacji agentowych, uczenia maszynowego, data science oraz prototypowania rozwiązań brzegowych. Platforma oparta na układzie NVIDIA GB10 Grace Blackwell Superchip łączy zintegrowany procesor graficzny Blackwell, 20-rdzeniowy procesor Arm i 128GB spójnej pamięci zunifikowanej w obudowie przeznaczonej do pracy na biurku.

W przeciwieństwie do standardowej stacji roboczej złożonej z oddzielnych komponentów NVIDIA DGX Spark integruje akcelerację GPU, pamięć zunifikowaną, lokalną pamięć masową, szybką łączność sieciową oraz zweryfikowany stos oprogramowania NVIDIA AI. System może działać jako samodzielny węzeł do rozwoju AI lub zostać połączony z drugim urządzeniem DGX Spark przez NVIDIA ConnectX-7 w celu pracy z większymi modelami.

Architektura GPU do rozwoju i wnioskowania AI

NVIDIA DGX Spark jest wyposażony w jeden układ NVIDIA GB10 Grace Blackwell Superchip. Łączy on procesor graficzny oparty na architekturze Blackwell, rdzenie Tensor piątej generacji i rdzenie RT czwartej generacji z 20-rdzeniowym procesorem Arm, obejmującym 10 rdzeni Cortex-X925 i 10 rdzeni Cortex-A725. CPU i GPU współdzielą 128GB spójnej pamięci systemowej LPDDR5X o przepustowości 273GB/s.

Zintegrowany procesor graficzny Blackwell zapewnia do 1 PFLOP wydajności AI w precyzji FP4 z wykorzystaniem sparsity i zawiera 6144 rdzenie CUDA. Architektura umożliwia lokalne tworzenie, testowanie i wykonywanie wnioskowania modeli AI o wielkości do 200 miliardów parametrów, a także dostrajanie zgodnych modeli o wielkości do 70 miliardów parametrów.

NVIDIA ConnectX-7 zapewnia szybką łączność na potrzeby przesyłania danych i przepływów pracy między systemami. Dwa urządzenia DGX Spark można połączyć w celu pracy z modelami AI o wielkości do 405 miliardów parametrów. Platforma oferuje również 10GbE, Wi-Fi 7, Bluetooth 5.4, USB Type-C i HDMI, co ułatwia integrację z firmowymi środowiskami programistycznymi.

Ta konfiguracja obejmuje jeden samoszyfrujący dysk SSD NVMe M.2 o pojemności 4TB przeznaczony na system operacyjny, modele, zbiory danych i lokalne pliki projektowe. NVIDIA DGX OS oraz fabrycznie zainstalowany stos oprogramowania NVIDIA AI zapewniają dostęp do CUDA, NGC, PyTorch, TensorRT-LLM, narzędzi kontenerowych, zoptymalizowanych bibliotek i frameworków wykorzystywanych w firmowych procesach AI.

Główne zastosowania

• Rozwój i prototypowanie modeli AI. DGX Spark zapewnia lokalne środowisko do tworzenia, testowania i walidacji modeli generatywnej AI, agentów AI, aplikacji uczenia maszynowego oraz firmowych projektów proof of concept.
• Dostrajanie modeli. Architektura ze 128GB pamięci zunifikowanej umożliwia dostrajanie zgodnych modeli o wielkości do 70 miliardów parametrów na danych i procesach specyficznych dla organizacji.
• Lokalne wnioskowanie. Platforma umożliwia testowanie, walidację i uruchamianie wnioskowania modeli AI o wielkości do 200 miliardów parametrów bez przesyłania każdego obciążenia do zewnętrznej infrastruktury chmurowej.
• Aplikacje agentowe i prywatna AI. DGX Spark nadaje się do rozwijania autonomicznych agentów, rozwiązań RAG, asystentów wewnętrznych oraz aplikacji wykorzystujących lokalne przetwarzanie danych.
• Data science i rozwój rozwiązań brzegowych. System obsługuje przyspieszoną analitykę oraz rozwój rozwiązań computer vision, robotyki, smart city i innych aplikacji edge korzystających z ekosystemu NVIDIA AI.

NVIDIA DGX Spark w infrastrukturze przedsiębiorstwa

NVIDIA DGX Spark jest przeznaczony dla organizacji potrzebujących dedykowanych lokalnych zasobów AI do rozwoju, eksperymentów, walidacji i wybranych obciążeń produkcyjnych bez wdrażania serwera GPU w szafie rack dla każdego projektu. Kompaktowa konstrukcja pozwala inżynierom AI, programistom, badaczom i specjalistom data science korzystać z ekosystemu oprogramowania NVIDIA bezpośrednio na stanowisku pracy.

Lokalne wykonywanie zadań może ograniczyć zależność od chmurowych zasobów wnioskowania i ułatwia zespołom przechowywanie wybranych modeli oraz zbiorów danych w środowisku organizacji. W przypadku większych projektów dwa systemy DGX Spark można połączyć przez ConnectX-7, a zweryfikowane aplikacje przenieść następnie do NVIDIA DGX Cloud lub centrum danych z akceleracją NVIDIA.

Dzięki układowi GB10 Grace Blackwell Superchip, 128GB spójnej pamięci zunifikowanej, dyskowi SSD NVMe o pojemności 4TB oraz fabrycznie zainstalowanemu stosowi oprogramowania NVIDIA AI, DGX Spark stanowi praktyczną platformę dla organizacji rozwijających generatywną AI, autonomicznych agentów, prywatne usługi AI, rozwiązania data science i aplikacje brzegowe wymagające lokalnej kontroli oraz spójnej ścieżki od prototypu do wdrożenia.