NVIDIA B200 GPU-Server
Garantie
Sie können jeden Server oder Storage nach Ihren Wünschen in unserem Konfigurator oder in Absprache mit einem Experten konfigurieren. Unsere Expertise hilft uns, neue Qualitätsstandards zu setzen.
NVIDIA B200 GPU-Server für große KI-Modelle und verteilte Jobs
Bei Servern mit NVIDIA B200 bestimmen Speicher pro GPU und die Kommunikation im Knoten, welche Trainings- und Inferenzlasten möglich sind. NVIDIA dokumentiert für HGX B200 acht Blackwell-GPUs mit je 180 GB HBM3e. Für die Konfiguration zählen darüber hinaus Host-CPUs, Netzwerkadapter und die vorgesehene Kühlung des Systems.
180 GB je B200 und die Topologie des Knotens nutzen
Ein vollständig bestückter HGX-B200-Knoten kommt auf 1.440 GB physischen GPU-Speicher. NVLink und NVSwitch verbinden die GPUs. Die Laufzeitsoftware muss Gewichte und Zwischenergebnisse weiterhin aufteilen. Wenn mehrere Modellinstanzen unabhängig laufen sollen, planen Sie ihre Speicherbelegung pro GPU. Bei einem gemeinsamen Trainingsjob gehören auch Datenaustausch und Checkpoint-Speicher in die Rechnung.
Rack, Kühlung und Software für die konkrete Plattform prüfen
Ein B200-System benötigt ein vom Hersteller freigegebenes Plattformdesign. Ermitteln Sie Einbautiefe, Traglast, elektrische Anschlüsse und die dokumentierte Kühllösung. Für flüssigkeitsgekühlte Ausführungen müssen auch Anschluss und Vorgaben des Kühlkreislaufs feststehen. Stimmen Sie Treiber, CUDA, Framework und die benötigten Präzisionsformate auf das Modell ab.
Ein NVIDIA DGX-System ist ein Vergleich für einen integrierten Knoten. Unter NVIDIA HGX finden Sie das Plattformkonzept für Server unterschiedlicher Hersteller. Falls 180 GB pro GPU die Zielkonfiguration begrenzen, vergleichen Sie B300-Server anhand der tatsächlich benötigten Speichermenge.
Fragen Sie einen Berater
NVIDIA dokumentiert acht GPUs mit je 180 GB HBM3e, insgesamt 1.440 GB. Für die Anwendung zählt, wie viele GPUs sie nutzt und wie ihre Software das Modell verteilt.
Für die hier betrachteten HGX- oder DGX-B200-Systeme gehört die B200 zum freigegebenen GPU-Aufbau. Wählen Sie das vollständige Systemdesign und klären Sie Erweiterung oder Ersatz mit dessen Hersteller.
Innerhalb eines Knotens dient die GPU-Verbindung der Kommunikation zwischen den Beschleunigern. Für mehrere Knoten benötigen Sie zusätzlich ein passendes Netzwerk und eine Software, die damit skaliert.
Testen Sie Modell, Präzision, Kontext und gleichzeitige Anfragen mit dem vorgesehenen Inferenzserver. Vergleichen Sie Durchsatz und Antwortzeit mit Ihrem Ziel und erfassen Sie den Speicherbedarf pro GPU.
Verwenden Sie das Datenblatt für das vollständige Servermodell. Relevant sind Leistungsaufnahme, Stromzuführungen, Rack-Maße, Gewicht und die vorgeschriebene Luft- oder Flüssigkeitskühlung.
einen Server bei Servermall zu kaufen
Garantie
Wir möchten sicherstellen, dass unsere Geräte für Sie absolut zuverlässig sind. Deshalb werden alle unsere Geräte (auch neue) umfassend diagnostiziert, getestet und Teile ausgetauscht.
Tests
Wir statten unsere Geräte mit verschiedenen Dienstprogrammen und Software aus. Sie werden garantiert lange funktionieren.
Stromversorgung
Die Komponenten arbeiten mit voller Leistung und werden mehrere Tage lang getestet. Bei Zweifeln tauschen wir sie aus.
aller Geräte
Unsere Vorschriften sehen die gleichen Prüfungen für gebrauchte und neue Geräte vor. Übrigens: Wir ergänzen die offizielle Herstellergarantie durch unsere eigene Garantie.