Serwer Huawei Atlas 800I A2
- Stan
- New
- Producent
- Huawei
- Format
- 4U
- CPU
- 4x Kunpeng 920 (64c/64t, 2.6Ghz, 180W)
- RAM
- 512GB (DDR4 ECC REG)
- GPU
- 8 x Ascend 910B
- Accelerator manufacturer
- Huawei
- Accelerator model
- Huawei Ascend 910B NPU
- Installed GPU/APU count
- 8 NPUs
- Maximum GPU/APU count
- 8 NPU modules
- Memory per accelerator
- 64GB
- Total accelerator memory
- 512GB
- GPU memory type
- HBM
- Accelerator memory bandwidth
- 800GB/s per NPU
- Accelerator form factor
- Integrated HCCS NPU modules
- Accelerator interconnect
- 392GB/s
- Accelerator-to-CPU interface
- PCIe 4.0
- Supported compute data types
- FP32, FP16 and INT8
- Accelerator virtualization
- Huawei vNPU compute-resource partitioning, device passthrough and container deployment through the Ascend software stack
- MIG support
- Not applicable; NVIDIA MIG is not used on Huawei Ascend accelerators
- Software ecosystem
- Huawei CANN, MindSpore, MindIE, AscendCL and the PyTorch Adapter for Ascend
- Maximum system power
- 10.4kW
- Cooling
- Air cooling with 8 hot-swap fan modules and N+1 fan redundancy
- Recommended workloads
- Enterprise LLM inference, generative AI services, retrieval-augmented generation, intelligent customer service, content generation, knowledge processing and high-throughput AI inference
- Dimensions
- 175 x 447 x 790 mm (H x W x D)
Potrzebujesz konsultacji technicznej przy wyborze serwera?
Wyślij zgłoszenieHuawei Atlas 800I A2 8SFF+2SFF/NVMe to konfiguracja pamięci masowej serwera inferencyjnego AI klasy enterprise 4U z osiem zatok SATA 2,5 cala oraz dwie zatoki NVMe 2,5 cala. Rozwiązanie jest przeznaczone dla przedsiębiorstw, dostawców usług i instytucji publicznych potrzebujących skalowalnej inferencji dużych modeli z oddzielnymi warstwami pojemności i niskich opóźnień.
Najważniejsze cechy:
-
Koszyk dyskowy i dostęp serwisowy: Konfiguracja udostępnia osiem zatok SATA 2,5 cala oraz dwie zatoki NVMe 2,5 cala. Układ 8+2 oddziela pojemnościową warstwę SATA od dwóch stanowisk NVMe o niskich opóźnieniach i umożliwia serwis nośników od przodu.
-
Topologia pamięci masowej: Ten koszyk odpowiada oficjalnemu wariantowi 8 × SATA + 2 × NVMe. Alternatywny układ 4 × SATA + 6 × NVMe jest inną topologią pamięci masowej.
-
Zainstalowany podsystem akceleratorów: Zainstalowany podsystem AI obejmuje 8 akceleratorów Ascend 910B i jest zoptymalizowany pod kątem inferencji o dużej przepustowości.
-
Platforma obliczeniowa klasy enterprise: Podsystem obliczeniowy wykorzystuje 4 procesory Kunpeng 920 i 512 GB rejestrowanej pamięci DDR4 ECC do udostępniania modeli, przygotowania danych i usług produkcyjnych.
-
Zarządzanie, sieć i dostępność: Osiem portów QSFP 200GE, obsługa RAID dla warstwy SATA, 4 moduły zasilające hot-swap 2,6 kW w redundancji 2+2 i wentylatory hot-swap N+1 wspierają skalowanie poziome i ciągłość usług.
Zastosowania:
-
Inferencja dużych modeli: Uruchamia generatywną AI oraz inferencję LLM i multimodalną na zainstalowanym podsystemie akceleratorów Ascend.
-
Firmowe usługi treści i wiedzy: Obsługuje inteligentne wyszukiwanie, generowanie treści, pozyskiwanie wiedzy i automatyzację obsługi klienta.
-
Rozproszone klastry inferencyjne: Wykorzystuje szybkie połączenia RoCE do skalowania usług inferencyjnych na wiele węzłów.
-
Przygotowanie danych i udostępnianie modeli: Wykorzystuje zdefiniowane warstwy SATA i NVMe dla danych operacyjnych, modeli, pamięci podręcznej i dzienników usług.
Huawei Atlas 800I A2 8SFF+2SFF/NVMe to wyspecjalizowana konfiguracja pamięci masowej dla organizacji potrzebujących koszyka 8 × SATA + 2 × NVMe, 8 zainstalowanych akceleratorów Ascend 910B i szybkiej sieci scale-out w platformie inferencyjnej 4U.
w Servermall
gwarancji
testowanie
Chcemy mieć pewność, że nasz sprzęt jest dla Ciebie w pełni niezawodny. Dlatego cały nasz sprzęt (nawet nowy) podlega pełnej diagnostyce, testowaniu i wymianie części.
testowanie
W pełni ładujemy nasz sprzęt różnymi narzędziami i oprogramowaniem. Bądź pewien, że będzie działał przez bardzo długi czas.
Zasilanie
The components work at full capacity and are tested for several days. If we are not sure about something, we replace it.
of all equipment
Our regulations imply the same testing for both used and new equipment. Oh, and by the way, we complement the official manufacturer’s warranty with our own warranty.