NVIDIA A100 GPU-Server
Garantie
Sie können jeden Server oder Storage nach Ihren Wünschen in unserem Konfigurator oder in Absprache mit einem Experten konfigurieren. Unsere Expertise hilft uns, neue Qualitätsstandards zu setzen.
Server mit NVIDIA A100 für bestehende KI- und HPC-Umgebungen
Ein A100-Server kommt infrage, wenn Ihre Anwendungen bereits auf Ampere und CUDA abgestimmt sind oder 40 beziehungsweise 80 GB Speicher pro GPU den Bedarf decken. Für einen Ausbau zählt, welche A100-Ausführung der Server unterstützt und ob die vorhandene Software auf derselben Konfiguration weiterlaufen kann.
Speicherausführung und GPU-Verbindung im Knoten klären
Vier A100 mit je 40 GB und zwei A100 mit je 80 GB haben rechnerisch dieselbe Gesamtkapazität. Ein Job mit 60 GB Spitzenbelegung kann auf eine 80-GB-GPU passen. Bei 40-GB-GPUs müsste die Anwendung den Job aufteilen. Planen Sie deshalb zuerst den Bedarf pro Prozess und erst danach die GPU-Anzahl.
PCIe- und SXM-Varianten haben unterschiedliche Einbau- und Verbindungskonzepte. Wenn mehrere GPUs zusammenarbeiten, ist die konkrete NVLink- oder NVSwitch-Topologie des Systems entscheidend. Für Speichervarianten und MIG-Profile bietet die Übersicht zur NVIDIA A100 einen eigenen Vergleich.
Bestehende Jobs und Serverressourcen zusammen betrachten
Für MIG- oder Multi-User-Betrieb legen Sie die Instanzgrößen pro Aufgabe fest. Rechnen Sie Host-RAM, Datenablage und Netzwerkanbindung für gleichzeitige Jobs ein. Wenn Sie alte GPU-Knoten ersetzen, vergleichen Sie einen H100-Server mit derselben Anwendung und dem vorgesehenen Softwarestand. Für bestehende Komplettsysteme hilft die Übersicht der NVIDIA DGX-Systeme bei der Zuordnung der Generation.
Fragen Sie einen Berater
Wenn ein Job mehr als 40 GB pro GPU benötigt oder Sie größere Instanzen einplanen. Vergleichen Sie die gemessene Spitzenbelegung inklusive Puffer mit der gewünschten Bestückung.
Das hängt von den Freigaben der Serverplattform und dem vorgesehenen Betriebsmodus ab. Lassen Sie GPU-Teilenummern, Formfaktor, Speicher und Verbindungen für die komplette Bestückung bestätigen.
Ermitteln Sie pro Team den Speicher- und Rechenbedarf. Prüfen Sie, ob getrennte GPUs oder unterstützte MIG-Profile besser passen. Berücksichtigen Sie außerdem Warteschlangen, Host-RAM und Zugriff auf Daten.
Hardwareplattform und GPU-Verbindung können sich ändern. Validieren Sie Treiber, CUDA, Framework und das Verhalten Ihrer Anwendung mit dem geplanten Präzisionsformat auf dem Zielserver.
GPU-Anzahl, Speicher pro GPU, Bauform, GPU-Topologie, CPU und RAM sowie Netzwerkkarten und Laufwerke. Bei einem Ausbau ist zusätzlich die Teilenummer der vorhandenen Plattform wichtig.
einen Server bei Servermall zu kaufen
Garantie
Wir möchten sicherstellen, dass unsere Geräte für Sie absolut zuverlässig sind. Deshalb werden alle unsere Geräte (auch neue) umfassend diagnostiziert, getestet und Teile ausgetauscht.
Tests
Wir statten unsere Geräte mit verschiedenen Dienstprogrammen und Software aus. Sie werden garantiert lange funktionieren.
Stromversorgung
Die Komponenten arbeiten mit voller Leistung und werden mehrere Tage lang getestet. Bei Zweifeln tauschen wir sie aus.
aller Geräte
Unsere Vorschriften sehen die gleichen Prüfungen für gebrauchte und neue Geräte vor. Übrigens: Wir ergänzen die offizielle Herstellergarantie durch unsere eigene Garantie.