Dell KI-Server
Garantie
Sie können jeden Server oder Storage nach Ihren Wünschen in unserem Konfigurator oder in Absprache mit einem Experten konfigurieren. Unsere Expertise hilft uns, neue Qualitätsstandards zu setzen.
Dell KI-Server für Training, Fine-Tuning und Inferenz kaufen
Ein Dell KI-Server sollte nach Modellgröße, Softwarestack und geplanter Auslastung ausgewählt werden. In der PowerEdge-XE-Familie gibt es Systeme für PCIe-Beschleuniger und Plattformen, auf denen mehrere GPUs über eine eigene GPU-Verbindung zusammenarbeiten. Daraus ergeben sich unterschiedliche Anforderungen an die Software, das Netzwerk und den Standort.
PCIe-Konfigurationen für Inferenz und separate GPU-Jobs
Dell dokumentiert für PowerEdge XE7740 und XE7745 Ausführungen mit bis zu acht NVIDIA RTX PRO 6000 Blackwell Server Edition. Der XE7740 nutzt Intel Xeon 6, der XE7745 AMD EPYC. Wenn jede GPU eine eigene Modellinstanz betreibt, zählen Speicher pro Karte, CPU-Anbindung und die gleichzeitige Versorgung mit Anfragen. Wenn ein Modell über mehrere Karten verteilt wird, sollte der Datenverkehr über PCIe im Test berücksichtigt werden.
XE-Systeme mit GPU-Verbund für zusammenhängende Jobs
Für den PowerEdge XE9680 dokumentiert Dell unter anderem eine Plattform mit acht NVIDIA H200. Bei Systemen mit NVIDIA B300 gibt es je nach Modell luft- und flüssigkeitsgekühlte Ausführungen. So dokumentiert Dell den XE9780 und den XE9780L als unterschiedliche Kühllösungen. Geben Sie beim Vergleich den vollständigen Modellzusatz an und klären Sie, ob Rack, Stromversorgung und gegebenenfalls Kühlkreislauf zum System passen.
Modell, Framework und Netzwerk für die Konfiguration festhalten
Der Speicher mehrerer GPUs wird einer Anwendung nicht automatisch als ein gemeinsamer Speicherbereich bereitgestellt. Software und Parallelisierungsverfahren müssen die Aufteilung unterstützen. Für mehrere Server ist auch das Netzwerk zwischen den Knoten zu dimensionieren. Zusätzliche Systeme für Datenbereitstellung oder andere CPU-Aufgaben können Sie bei den Dell Rack-Servern vergleichen.
Für eine belastbare Konfiguration sind Modell, Präzision, geplante Parallelität und Ziel für Durchsatz oder Latenz wichtig. Lassen Sie die genaue GPU-Ausführung, die Host- und Netzwerkadapter sowie die Kühlung in der Stückliste benennen.
Fragen Sie einen Berater
Sie kommen für PCIe-basierte Konfigurationen infrage, etwa wenn mehrere GPU-Jobs unabhängig laufen. Dell dokumentiert bis zu acht RTX PRO 6000 Blackwell Server Edition. Maßgeblich sind die freigegebene Bestückung und die konkrete CPU-Plattform.
Vergleichen Sie GPU-Typ, Speicher pro GPU und die Verbindung zwischen den Beschleunigern. Wenn Ihr Modell zwischen GPUs viele Daten austauscht, sollten Sie die Leistung mit Ihrer Parallelisierung testen.
Dell dokumentiert unterschiedliche Kühllösungen. Für eine flüssigkeitsgekühlte Ausführung müssen unter anderem die Rack- und Kühlkreislaufanforderungen erfüllt sein. Stimmen Sie dies anhand der vollständigen Modellnummer ab.
Erfassen Sie, wie viel Verkehr ein Trainingsjob zwischen den Knoten verursacht und welches Transportverfahren der Softwarestack unterstützt. Wählen Sie Netzwerkkarten, Switches und Verkabelung gemeinsam.
Nennen Sie Modellgröße, Framework und Version, Ziel für Trainingszeit oder Inferenzleistung sowie vorhandene Strom- und Kühlungsdaten. Lassen Sie GPU-Anzahl und Edition, Hostprozessoren, RAM und Netzwerkadapter ausweisen.
einen Server bei Servermall zu kaufen
Garantie
Wir möchten sicherstellen, dass unsere Geräte für Sie absolut zuverlässig sind. Deshalb werden alle unsere Geräte (auch neue) umfassend diagnostiziert, getestet und Teile ausgetauscht.
Tests
Wir statten unsere Geräte mit verschiedenen Dienstprogrammen und Software aus. Sie werden garantiert lange funktionieren.
Stromversorgung
Die Komponenten arbeiten mit voller Leistung und werden mehrere Tage lang getestet. Bei Zweifeln tauschen wir sie aus.
aller Geräte
Unsere Vorschriften sehen die gleichen Prüfungen für gebrauchte und neue Geräte vor. Übrigens: Wir ergänzen die offizielle Herstellergarantie durch unsere eigene Garantie.