NVIDIA H200 GPU-Server

eu
Kostenloser Versand innerhalb der EU
eu
Jahre
Garantie
Server konfigurieren
Parameter wählen
Löschen
Zustand
Manufacturer
Formfaktor
Model
Anzahl von Prozessoren
HDD Typ
Maximale Anzahl von HDD
Anzahl von Stromversorgungen
KI-Workload
Sorting by:
Davon MwSt.
KI-Server
Neu
Auf Lager
Gigabyte G893-SD1-AAX3 8NVMe
Server GIGABYTE G893-SD1-AAX3 8NVMe
Bauform
8U
CPU
2x Intel Xeon Platinum 8558 (48C 260M Cache 2.10 GHz)
RAM
32x 64GB DDR5 RDIMM 5600MHz (Support up to 32 DIMM DDR5)
HDD
4x 3.84TB NVMe U.2 PM9A3/ 2x 960GB NVMe U.2 PM9A3 (up to 8 HDD 2.5'' NVMe)
GPU
8 x NVIDIA H200 HGX
Preis
495.663  €
409.639  €
zzgl. 86.024  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
MSI CG480-S5063 20NVMe
Server MSI CG480-S5063 20NVMe
Bauform
4U
CPU
2x Intel Xeon 6767P (64C 336M Cache 2.40 GHz)
RAM
32x 64GB DDR5 RDIMM 6400MHz (Support up to 32 DIMM DDR5)
HDD
8x 3.84TB NVMe E1.S PCIe 5.0 x4/ 2x 960GB NVMe M.2 PCIe 5.0 x2 (up to 20 HDD 2.5'' NVMe)
GPU
8 x NVIDIA H200 NVL
Preis
469.635  €
388.128  €
zzgl. 81.507  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
xFusion G8600 V7 8NVMe
Server xFusion G8600 V7 8NVMe
Bauform
8U
CPU
2x Intel Xeon Platinum 8462Y+ (32C 60M Cache 2.80 GHz)
RAM
32x 64GB DDR5 RDIMM 5600MHz (Support up to 32 DIMM DDR5)
HDD
5x 1.92TB Data Center NVMe Read Intensive (up to 8 HDD 2.5'' NVMe)
GPU
6 x NVIDIA H200 8-GPU
Preis
478.855  €
395.748  €
zzgl. 83.107  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
DELL PowerEdge XE9680 16NVMe
Server Dell PowerEdge XE9680
RAM
4096GB (DDR5 ECC REG)
GPU
8 x NVIDIA H200
Preis
Fragen Sie das Vertriebsteam
Kaufen
KI-Server
Neu
Auf Lager
Gigabyte G593-ZD1-AAX3 8SFF/NVMe
Server GIGABYTE G593-ZD1-AAX3
RAM
6144GB (DDR5 ECC REG)
GPU
8 x NVIDIA H200
Preis
1.039.895  €
859.417  €
zzgl. 180.478  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
NVIDIA DGX H200
Server NVIDIA DGX H200
Bauform
8U
CPU
2x Intel Xeon Platinum 8480C (56c/112t, 2GHz-3.8GHz, 350W)
RAM
2000GB (DDR5 ECC REG)
GPU
8 x NVIDIA H200
Preis
773.563  €
639.308  €
zzgl. 134.255  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Gigabyte H223-V10-AAW1 8NVMe
Server GIGABYTE H223-V10-AAW1
Bauform
2U
RAM
960GB (LPDDR5x)
GPU
2 x NVIDIA GH200 (Hopper)
Preis
271.736  €
224.575  €
zzgl. 47.161  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Gigabyte G593-SD1-AAX3 8SFF/NVMe
Server GIGABYTE G593-SD1-AAX3
RAM
8192GB (DDR5 ECC REG)
GPU
8 x NVIDIA H200
Preis
682.596  €
564.129  €
zzgl. 118.467  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Supermicro SYS-821GE-TNHR 16NVMe+3SFF
Server Supermicro SYS-821GE-TNHR
Bauform
8U
RAM
8192GB (DDR5 ECC REG)
GPU
8 x NVIDIA H200
Preis
839.503  €
693.804  €
zzgl. 145.699  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Gigabyte G893-ZD1-AAX3 8NVMe
Server GIGABYTE G893-ZD1-AAX3
Bauform
8U
RAM
6144GB
GPU
8 x NVIDIA H200
Preis
717.732  €
593.167  €
zzgl. 124.565  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
HPE Cray XD670 Gen11 8NVMe
Server HPE Cray XD670 Gen11
RAM
4096GB (DDR5 ECC REG)
GPU
8 x NVIDIA H200
Preis
Fragen Sie das Vertriebsteam
Kaufen
KI-Server
Neu
Auf Lager
Supermicro ARS-221GL-NHIR 2NVMe
Server Supermicro ARS-221GL-NHIR
Bauform
2U
RAM
960GB (LPDDR5x)
GPU
2 x NVIDIA GH200 (Hopper)
Preis
151.474  €
125.185  €
zzgl. 26.289  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Supermicro ARS-111GL-NHR 2SFF
Server Supermicro ARS-111GL-NHR
Bauform
1U
RAM
480GB (LPDDR5x)
GPU
1 x NVIDIA GH200 (Hopper)
Preis
90.336  €
74.658  €
zzgl. 15.678  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Gigabyte XH23-VG0-AAJ1 4NVMe
Server GIGABYTE XH23-VG0-AAJ1
Bauform
2U
RAM
480GB (LPDDR5x)
GPU
1 x NVIDIA GH200 (Hopper)
Preis
131.383  €
108.581  €
zzgl. 22.802  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
ASUS ESC NM1-E1 8NVMe
Server ASUS ESC NM1-E1
Bauform
2U
RAM
480GB (LPDDR5x)
GPU
1 x NVIDIA GH200 (Hopper)
Preis
100.719  €
83.239  €
zzgl. 17.480  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Supermicro ARS-111GL-SHR 8NVMe
Server Supermicro ARS-111GL-SHR
Bauform
1U
RAM
480GB (LPDDR5x)
GPU
1 x NVIDIA GH200 (Hopper)
Preis
91.440  €
75.570  €
zzgl. 15.870  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Supermicro AS-4125GS-TNRT 20SFF+4NVMe
Server Supermicro AS-4125GS-TNRT
Bauform
4U
CPU
2x AMD EPYC 9845 (160c/320t, 2.1GHz-3.7GHz, 390W)
RAM
2048GB (DDR5 ECC REG)
GPU
8 x NVIDIA H200
Preis
666.850  €
551.116  €
zzgl. 115.734  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Dell EMC PowerEdge XE9680 8SFF
Server Dell PowerEdge XE9680
CPU
2x Intel Xeon Platinum 8468 (48C 105M Cache 2.10 GHz)
RAM
32x 64GB DDR5 5600MHz
HDD
2x 3.84T(up to 8 SDD 2.5'' NVMe)
GPU
8 x NVIDIA HGX H200 141G
Preis
504.143  €
416.647  €
zzgl. 87.496  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
Sie können sich nicht entscheiden? Wir helfen Ihnen gerne. Wir helfen Ihnen, erklären Ihnen und beraten Sie.

Sie können jeden Server oder Storage nach Ihren Wünschen in unserem Konfigurator oder in Absprache mit einem Experten konfigurieren. Unsere Expertise hilft uns, neue Qualitätsstandards zu setzen.

NVIDIA H200 GPU-Server

Server mit NVIDIA H200 für Modelle mit hohem Speicherbedarf

Bei einem H200-Server stehen je GPU 141 GB HBM3e und laut NVIDIA 4,8 TB/s Speicherbandbreite zur Verfügung. Das ist vor allem dann interessant, wenn Gewichte, lange Kontexte oder große Batches die Ausführung auf einer kleineren GPU begrenzen. Die passende Servergröße ergibt sich daraus, wie viele GPUs eine Aufgabe benötigt und wie viele Aufgaben parallel laufen.

141 GB pro GPU in der Systemplanung richtig ansetzen

Ein HGX-H200-Knoten mit acht GPUs hat insgesamt 1.128 GB physischen GPU-Speicher. Die Anwendung verteilt ihre Daten auf einzelne GPUs. Bei einem Modell mit 70 Milliarden Parametern liegen schon die 16-Bit-Gewichte rechnerisch bei rund 140 GB. Kontext und Laufzeitpuffer benötigen zusätzlich Platz. Klären Sie daher vor der Bestellung, ob Sie quantisieren, das Modell verteilen oder mehr Speicher pro GPU benötigen.

H200 NVL und HGX H200 als unterschiedliche Aufbauten vergleichen

Bei H200 NVL sind PCIe-Plätze und die unterstützte Anordnung der NVLink-Brücken wichtig. Bei einem HGX-basierten Server mit H200 SXM gehören Baseboard, GPU-Verbund und Kühlung zum Systemdesign. Details zu den Varianten finden Sie unter NVIDIA H200. Für den Standort zählen bei beiden Aufbauten Netzteile, verfügbare Stromkreise, Rack und Wärmeabfuhr.

Vergleichen Sie mit einem H100-Server, wenn Ihr Modell schon mit 80 oder 94 GB je GPU auskommt. Wenn Sie weiterhin an die Kapazitätsgrenze stoßen, können Sie einen B200-Server anhand des Speichers pro GPU und der dafür benötigten Plattform einordnen.

Häufig gestellte Fragen
Haben Sie eine eigene Frage?
Fragen Sie einen Berater
Sind 1.128 GB in einem H200-Knoten ein einzelner Speicherbereich?

Die Zahl ergibt sich aus acht GPUs mit je 141 GB. Das Modell kann diesen Speicher nutzen, wenn seine Software die Daten passend aufteilt. Berücksichtigen Sie dabei Kommunikationsaufwand und den Verbrauch pro GPU.

Wann ist ein H200 NVL-Server interessant?

Wenn Sie PCIe-Karten für den geplanten Aufbau benötigen und die freigegebene NVLink-Brückentopologie zur Anwendung passt. Bestimmen Sie vor dem Kauf, welche Karten miteinander verbunden werden sollen.

Kann eine einzelne H200 ein 70-Milliarden-Parameter-Modell in BF16 ausführen?

Die Gewichte benötigen rechnerisch etwa 140 GB. Für Kontext, Laufzeit und Puffer kommt Speicher hinzu. Planen Sie mit einem Messwert oder nutzen Sie je nach Bedarf Quantisierung oder mehrere GPUs.

Welche Werte eignen sich für einen Vergleich mit H100?

Vergleichen Sie bei identischem Modell, Präzision und Kontext den maximal nutzbaren Batch, Tokens pro Sekunde und die Antwortlatenz. Erfassen Sie auch, ob CPU oder Netzwerk die Last begrenzen.

Was muss der Aufstellort für einen H200-Server erfüllen?

Die Bestückung bestimmt Leistungsaufnahme, Stromanschlüsse und die abzuführende Wärme. Verwenden Sie die Standortdaten des konkreten Servers und planen Sie Redundanz und Wartungszugang ein.

6 Gründe
einen Server bei Servermall zu kaufen
1. Angebot in 1 Std. erhalten

Normalerweise dauert es 20–30 Minuten. Ja, so schnell sind wir.

Kostenloser Versand innerhalb der EU

Wir liefern an jeden Standort in der EU – schnell und zuverlässig.

3. 30 Tage Geld-zurück-Garantie.

Sie können jedes Gerät innerhalb von 30 Tagen zurückgeben. Ohne Angabe von Gründen. Der volle Betrag wird erstattet. Wir nehmen Ihnen das gerne.

4. Vor-Ort-Diagnose

Im Garantiefall reparieren oder ersetzen wir das defekte Gerät umgehend. Vor Ort. Kostenlos. 5 Jahre lang.

5. Unser Lager

Wir besitzen ein Lager in Vilnius. So können wir die Geräte schnell in ganz Europa versenden.

6. Wir stehen unseren Kunden zur Seite.

Wir bieten Ihnen jederzeit After-Sales-Support. Unsere Experten helfen Ihnen bei der Lösung aller Probleme.

5
Jahre
Garantie
Was? 5 Jahre Garantie auf die Geräte?
Klingt verrückt, oder? Tatsächlich ist es das nicht: Wir vertrauen auf die Ergebnisse unserer Diagnosen und Tests. Und wenn etwas schiefgeht, reparieren wir es. Kostenlos.
Test abgeschlossen

Wir möchten sicherstellen, dass unsere Geräte für Sie absolut zuverlässig sind. Deshalb werden alle unsere Geräte (auch neue) umfassend diagnostiziert, getestet und Teile ausgetauscht.

Extreme
Tests

Wir statten unsere Geräte mit verschiedenen Dienstprogrammen und Software aus. Sie werden garantiert lange funktionieren.

CPU, RAM,
Stromversorgung

Die Komponenten arbeiten mit voller Leistung und werden mehrere Tage lang getestet. Bei Zweifeln tauschen wir sie aus.

Umfassende Prüfung
aller Geräte

Unsere Vorschriften sehen die gleichen Prüfungen für gebrauchte und neue Geräte vor. Übrigens: Wir ergänzen die offizielle Herstellergarantie durch unsere eigene Garantie.

Benötigen Sie Unterstützung? Wir kennen uns mit Hardware bestens aus.