Server mit GPU
Garantie
Sie können jeden Server oder Storage nach Ihren Wünschen in unserem Konfigurator oder in Absprache mit einem Experten konfigurieren. Unsere Expertise hilft uns, neue Qualitätsstandards zu setzen.
Server mit GPU für Rechenlast, Rendering und Virtualisierung
Ein GPU-Server lohnt sich, wenn die eingesetzte Software wesentliche Arbeitsschritte an Beschleuniger auslagert. Das kann die Inferenz eines Sprachmodells, das Rendern einer Szene, die Verarbeitung von Videoströmen oder eine numerische Simulation sein. Welche Plattform passt, hängt davon ab, ob die Aufgaben unabhängig auf mehreren Karten laufen oder sich die GPUs während der Berechnung regelmäßig austauschen.
PCIe-Karten und Mehr-GPU-Plattformen unterscheiden
Für unabhängige Aufgaben bietet sich ein Server mit einzeln angebundenen PCIe-Karten an. Entscheidend sind die vom Hersteller unterstützte GPU-Bestückung, der Platz für doppelt breite Karten und die Stromversorgung. Wenn ein Modell über mehrere GPUs verteilt wird und dabei viele Zwischenergebnisse überträgt, lohnt sich der Vergleich mit NVIDIA-HGX-basierten Servern. Dort bildet die GPU-Verbindung einen Teil der Plattform. Für die Nachrüstung einer vorhandenen Maschine finden Sie die einzelnen Beschleuniger unter Server-GPUs.
Was an einem GPU-Server zum Beschleuniger passen muss
- Software. Klären Sie vor dem Kauf, ob Ihre Anwendung CUDA, ROCm, einen bestimmten Encoder oder eine zertifizierte vGPU-Konfiguration benötigt. Maßgeblich sind die eingesetzte Version und das Betriebssystem.
- Mechanik und Strom. Ein freier x16-Steckplatz reicht als Angabe für die Beschaffung kaum aus. Auf die Stückliste gehören auch Riser, Einbausatz, Stromkabel und die für die gewählte Kartenanzahl freigegebene Netzteilbestückung.
- Kühlung. Passive Karten benötigen den vorgesehenen Luftstrom des Servers. Bei flüssigkeitsgekühlten Systemen gehören die Anforderungen an den Kühlkreislauf bereits in die Standortplanung.
- Datenpfad. CPU, RAM und NVMe-Speicher müssen die GPUs mit Daten versorgen können. Bei mehreren Knoten kommt die Bandbreite zwischen den Servern hinzu.
Die Größe des Systems vom Einsatz ableiten
Für viele unabhängige Inferenzanfragen kann jede GPU eine eigene Modellinstanz bedienen, sofern diese in ihren Speicher passt. Bei einem größeren Modell braucht die Software ein Verfahren zur Aufteilung über mehrere GPUs. Weitere Kriterien für diesen Fall finden Sie bei den KI-Servern für Training und Inferenz. Sollen Anwendungen direkt am Arbeitsplatz mit Bildschirm und lokaler Bedienung laufen, sind GPU-Workstations ein eigener Vergleichspunkt.
Fragen Sie einen Berater
Ja, wenn der Hersteller das konkrete Kartenmodell und die vorgesehene Bestückung freigibt. Zur Prüfung gehören Riser, Slotbreite, Stromanschlüsse und Luftführung. Die Teilenummer des GPU-Kits hilft bei der Zuordnung.
Mehrere GPUs helfen bei parallelen Jobs oder wenn ein Modell aufgeteilt werden muss. Für unabhängige Jobs zählt vor allem die Anzahl der verfügbaren Karten. Bei einem gemeinsamen Job sind zusätzlich Kommunikation und Software entscheidend.
Nennen Sie Anwendung und Version, Modellgröße oder Datensatz, gewünschte Parallelität und die vorhandene Strom- und Kühlungsinfrastruktur. Bei einer Nachrüstung ist die genaue Serverkonfiguration wichtig.
Die Karte nutzt den Luftstrom des Servergehäuses. Lüfter, Luftleitbleche und Bestückung müssen dafür ausgelegt sein. Ein mechanisch passender Steckplatz allein sagt nichts über die Kühlung aus.
Erfassen Sie die gewünschte Zielgröße, etwa Bilder pro Sekunde, Zeit pro Simulationsschritt oder Antwortlatenz. Messen Sie daneben GPU-Auslastung, Datenbereitstellung und den Verkehr zwischen den Beschleunigern.
einen Server bei Servermall zu kaufen
Garantie
Wir möchten sicherstellen, dass unsere Geräte für Sie absolut zuverlässig sind. Deshalb werden alle unsere Geräte (auch neue) umfassend diagnostiziert, getestet und Teile ausgetauscht.
Tests
Wir statten unsere Geräte mit verschiedenen Dienstprogrammen und Software aus. Sie werden garantiert lange funktionieren.
Stromversorgung
Die Komponenten arbeiten mit voller Leistung und werden mehrere Tage lang getestet. Bei Zweifeln tauschen wir sie aus.
aller Geräte
Unsere Vorschriften sehen die gleichen Prüfungen für gebrauchte und neue Geräte vor. Übrigens: Wir ergänzen die offizielle Herstellergarantie durch unsere eigene Garantie.