NVIDIA L20
Garantie
Sie können jeden Server oder Storage nach Ihren Wünschen in unserem Konfigurator oder in Absprache mit einem Experten konfigurieren. Unsere Expertise hilft uns, neue Qualitätsstandards zu setzen.
NVIDIA L20 mit 48 GB für KI-Inferenz und virtuelle Grafik
Die NVIDIA L20 ist eine PCIe-GPU der Ada-Lovelace-Generation mit 48 GB GDDR6. Der Speicherrahmen ist für Anwendungen interessant, die mehr Platz brauchen als auf kompakten Karten wie der T4 verfügbar ist. Typische Auswahlkriterien sind der Speicherbedarf pro Inferenzinstanz, die vGPU-Profile für virtuelle Arbeitsplätze und die Freigabe des Servers.
Speicherbedarf pro Instanz abschätzen
Ein Modell mit 13 Milliarden Parametern benötigt bei 16 Bit rechnerisch rund 26 GB für die Gewichte. Kontext, Batch und Laufzeitpuffer kommen hinzu. Wenn mehrere Prozesse dieselbe L20 nutzen, muss die Last jedes Prozesses in die Rechnung einfließen. Testen Sie deshalb mit dem vorgesehenen Modell und der erwarteten Zahl gleichzeitiger Anfragen.
Für virtuelle Desktops oder Anwendungen mit 3D-Grafik wählen Sie das vGPU-Profil anhand des Speichers pro Nutzer. Wenn Rendering und Video den Einsatz bestimmen, vergleichen Sie die NVIDIA L40 anhand der Grafik- und Medienfunktionen, die Ihre Software benötigt.
Platz und Luftführung vor der Bestellung abgleichen
Für die L20 gibt es unter anderem passive PCIe-Serverkarten in voller Bauhöhe und Länge mit zwei Slotbreiten. Prüfen Sie die Teilenummer und Kühlausführung im Angebot. Wenn Sie eine NVIDIA T4 ersetzen, ändern sich Platzbedarf und Stromversorgung deutlich. Bei einem vorhandenen Server sollte der Hersteller die geplante L20-Bestückung samt Riser und GPU-Stromkabel freigeben.
Fragen Sie einen Berater
Wenn 48 GB pro GPU für Gewichte, Kontext und parallele Anfragen ausreichen. Messen Sie Antwortzeit und Durchsatz mit dem vorgesehenen Modell, der Präzision und dem Inferenzserver.
Der Speicherumfang ist ein gemeinsamer Wert. Vergleichen Sie zusätzlich die Leistung für Ihre Anwendung, die unterstützten Grafik- und Videofunktionen und die freigegebene Serverkonfiguration.
Ein Tausch setzt eine ausdrückliche Serverfreigabe voraus. Die L20 kann mehr Slotbreite, eine andere Stromversorgung und mehr Luftstrom benötigen. Klären Sie Riser, Kabel und Kühlausführung vor dem Kauf.
Gehen Sie vom Speicherbedarf und den Anwendungen pro VM aus. Vergleichen Sie die unterstützten L20-Profile mit Hypervisor, Treiberzweig und Lizenz für die geplante Umgebung.
Lassen Sie GPU-Teilenummer, Kühlung, Steckplatzbedarf und benötigte Kabel ausweisen. Geben Sie bei einer Nachrüstung auch Servermodell, Chassis und die geplante Zahl an Karten an.
einen Server bei Servermall zu kaufen
Garantie
Wir möchten sicherstellen, dass unsere Geräte für Sie absolut zuverlässig sind. Deshalb werden alle unsere Geräte (auch neue) umfassend diagnostiziert, getestet und Teile ausgetauscht.
Tests
Wir statten unsere Geräte mit verschiedenen Dienstprogrammen und Software aus. Sie werden garantiert lange funktionieren.
Stromversorgung
Die Komponenten arbeiten mit voller Leistung und werden mehrere Tage lang getestet. Bei Zweifeln tauschen wir sie aus.
aller Geräte
Unsere Vorschriften sehen die gleichen Prüfungen für gebrauchte und neue Geräte vor. Übrigens: Wir ergänzen die offizielle Herstellergarantie durch unsere eigene Garantie.