KI-Server

eu
Kostenloser Versand innerhalb der EU
eu
Jahre
Garantie
Server konfigurieren
Parameter wählen
Löschen
Zustand
Manufacturer
Formfaktor
Model
Anzahl von Prozessoren
CPU-Marke
DDR-Typ
Maximaler RAM
Maximaler RAM-Slot
HDD Typ
Maximale Anzahl von HDD
Anzahl von Stromversorgungen
NVME-Unterstützung
Processor series
KI-Workload
GPU-Formfaktor
Sorting by:
Davon MwSt.
KI-Server
Neu
Auf Lager
NVIDIA DGX H800
Server NVIDIA DGX H800
CPU
2x Intel Xeon Platinum 8480C (56C 105M Cache 2.00 GHz)
RAM
32x 64GB DDR5 4800MHz
HDD
8x3.84T NVMe PCIe/ 2x960Gb NVMe M.2
GPU
NVIDIA DELTA-NEXT Vulcan SXM5 8xNVIDIA H100 640G
Preis
745.540  €
616.149  €
zzgl. 129.391  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Supermicro SYS-822GS-NB3RT HGX B300 NVL8 8NVMe
Server Supermicro SYS-822GS-NB3RT HGX
Bauform
8U
CPU
2 x Intel Xeon 6768P (64C 336MB Cache 2.40 GHz)
RAM
32 x 96GB DDR5-6400 ECC RDIMM
HDD
8 x 3.2TB NVMe PCIe Gen5 E1.S + 2 x 960GB NVMe PCIe 4.0 M.2
GPU
1 x NVIDIA HGX B300 NVL8 (8 GPU)
Preis
893.788  €
738.668  €
zzgl. 155.120  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Supermicro SYS-822GS-NB3RT HGX B300 NVL8 8NVMe
Server Supermicro SYS-822GS-NB3RT HGX
Bauform
8U
CPU
2 x Intel Xeon 6768P (64C 336MB Cache 2.40 GHz)
RAM
24 x 96GB DDR5-6400 ECC RDIMM
HDD
8 x 3.2TB NVMe PCIe Gen5 E1.S + 2 x 960GB NVMe PCIe 4.0 M.2
GPU
1 x NVIDIA HGX B300 NVL8 (8 GPU)
Preis
858.842  €
709.787  €
zzgl. 149.055  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Supermicro AS-4124GO-NART+ 6NVMe
Server Supermicro AS-4124GO-NART+
Bauform
4U
RAM
8192GB (DDR4 ECC REG)
GPU
8 x NVIDIA A100
Preis
270.483  €
223.540  €
zzgl. 46.943  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Supermicro AS-2025HS-TNR 12LFF
Server Supermicro AS-2025HS-TNR
Bauform
2U
CPU
2x AMD EPYC 9124 (16c/32t, 3.0GHz-3.6GHz, 200W)
RAM
128GB (DDR4 ECC REG)
GPU
2 x GIGABYTE Radeon AI PRO R9700 AI TOP
Preis
23.704  €
19.590  €
zzgl. 4.114  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Supermicro SYS-4028GR-TR 24SFF
Server Supermicro SYS-4028GR-TR
Bauform
4U
CPU
2x Intel Xeon E5 2680v4 (14c/28t, 2.4GHz-3.3GHz, 120W)
RAM
128GB (DDR4 ECC REG)
GPU
4 x AMD Radeon Instinct MI50
Preis
6.741  €
5.571  €
zzgl. 1.170  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Gigabyte G893-SD1-AAX3 8NVMe
Server GIGABYTE G893-SD1-AAX3 8NVMe
Bauform
8U
CPU
2x Intel Xeon Platinum 8558 (48C 260M Cache 2.10 GHz)
RAM
32x 64GB DDR5 RDIMM 5600MHz (Support up to 32 DIMM DDR5)
HDD
4x 3.84TB NVMe U.2 PM9A3/ 2x 960GB NVMe U.2 PM9A3 (up to 8 HDD 2.5'' NVMe)
GPU
8 x NVIDIA H200 HGX
Preis
495.663  €
409.639  €
zzgl. 86.024  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
MSI CG480-S5063 20NVMe
Server MSI CG480-S5063 20NVMe
Bauform
4U
CPU
2x Intel Xeon 6767P (64C 336M Cache 2.40 GHz)
RAM
32x 64GB DDR5 RDIMM 6400MHz (Support up to 32 DIMM DDR5)
HDD
8x 3.84TB NVMe E1.S PCIe 5.0 x4/ 2x 960GB NVMe M.2 PCIe 5.0 x2 (up to 20 HDD 2.5'' NVMe)
GPU
8 x NVIDIA H200 NVL
Preis
469.635  €
388.128  €
zzgl. 81.507  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
xFusion G8600 V7 8NVMe
Server xFusion G8600 V7 8NVMe
Bauform
8U
CPU
2x Intel Xeon Platinum 8462Y+ (32C 60M Cache 2.80 GHz)
RAM
32x 64GB DDR5 RDIMM 5600MHz (Support up to 32 DIMM DDR5)
HDD
5x 1.92TB Data Center NVMe Read Intensive (up to 8 HDD 2.5'' NVMe)
GPU
6 x NVIDIA H200 8-GPU
Preis
478.855  €
395.748  €
zzgl. 83.107  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Gigabyte G894-SD3-AAX7 8NVMe
Server GIGABYTE G894-SD3-AAX7
Bauform
8U
CPU
2x Intel Xeon 6767P
RAM
16x 128GB RDIMM 6400MHz (Support up to 32 DIMM DDR5 up to 8192 Gb)
HDD
2 x 1.92TB M.2/ 2x 3.84TB U.2 (up to 8 HDD 2.5'' NVMe)
GPU
B300 HGX
Preis
881.675  €
728.657  €
zzgl. 153.018  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Gigabyte G492-ID0 6SFF/NVMe
Server GIGABYTE G492-ID0
Bauform
4U
RAM
8192GB (DDR4 ECC REG)
GPU
8 x NVIDIA A100
Preis
329.331  €
272.174  €
zzgl. 57.157  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
DELL PowerEdge XE9780 16SFF
Server Dell PowerEdge XE9780
RAM
4096GB (DDR5 ECC REG)
GPU
8 x NVIDIA B300 SXM
Preis
Fragen Sie das Vertriebsteam
Kaufen
KI-Server
Neu
Auf Lager
NVIDIA DGX H100
Server NVIDIA DGX H100
Bauform
8U
CPU
2x Intel Xeon Platinum 8480C (56c/112t, 2GHz-3.8GHz, 350W)
RAM
2000GB (DDR5 ECC REG)
GPU
8 x NVIDIA H100
Preis
325.339  €
268.875  €
zzgl. 56.464  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
DELL PowerEdge XE9785 10SFF/NVMe
Server Dell PowerEdge XE9785
RAM
6144GB (DDR5 ECC REG)
GPU
8 x AMD Instinct MI355X
Preis
Fragen Sie das Vertriebsteam
Kaufen
KI-Server
Neu
Auf Lager
ASUS ESC8000A-E13 SKU1 6SFF/NVMe
Server ASUS ESC8000A-E13 SKU1
Bauform
4U
CPU
2x AMD EPYC 9575F (64c/128t, 3.3GHz-5GHz, 400W)
RAM
768GB (DDR5 ECC REG)
GPU
8 x NVIDIA RTX PRO 6000 Blackwell
Preis
207.674  €
171.631  €
zzgl. 36.043  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Supermicro AS-A126GS-TNBR 8SFF/NVMe + 2SFF
Server Supermicro AS-A126GS-TNBR
RAM
6144GB (DDR5 ECC REG)
GPU
8 x NVIDIA B200 SXM
Preis
1.180.551  €
975.662  €
zzgl. 204.889  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Gigabyte G494-ZB4-AAP2 12SFF/NVMe
Server GIGABYTE G494-ZB4-AAP2
Bauform
4U
CPU
2x AMD EPYC 9655 (96c/192t, 2.6GHz-4.5GHz, 400W)
RAM
768GB (DDR5 ECC REG)
GPU
8 x NVIDIA RTX PRO 6000 Blackwell
Preis
203.914  €
168.524  €
zzgl. 35.390  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Gigabyte G492-ZD2 6SFF/NVMe
Server GIGABYTE G492-ZD2
Bauform
4U
RAM
8192GB (DDR4 ECC REG)
GPU
8 x NVIDIA A100
Preis
325.598  €
269.089  €
zzgl. 56.509  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Supermicro 4124GS-TNR 24SFF
Server Supermicro 4124GS-TNR
Bauform
4U
CPU
2x AMD EPYC 7513 (32c/64t, 2.6GHz-3.6GHz, 200W)
RAM
1024GB (DDR4 ECC REG)
GPU
6 x NVIDIA A100
Preis
102.932  €
85.068  €
zzgl. 17.864  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Gigabyte G893-ZX1-AAX2 8SFF/NVMe
Server GIGABYTE G893-ZX1-AAX2
Bauform
8U
RAM
6144GB (DDR5 ECC REG)
GPU
8 x AMD Instinct MI325X
Preis
429.647  €
355.080  €
zzgl. 74.567  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Supermicro AS-8125GS-TNHR 12SFF/NVMe + 2SFF
Server Supermicro AS-8125GS-TNHR
Bauform
8U
RAM
6144GB (DDR5 ECC REG)
GPU
8 x NVIDIA H100
Preis
548.566  €
453.360  €
zzgl. 95.206  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Supermicro AS-4145GH-TNMR 8SFF/NVMe
Server Supermicro AS-4145GH-TNMR
Bauform
4U
RAM
512GB (HBM3)
GPU
4 x AMD Instinct MI300A
Preis
188.891  €
156.108  €
zzgl. 32.783  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
HPE Cray XD670 Gen11 8SFF/NVMe
Server HPE Cray XD670 Gen11
RAM
4096GB (DDR5 ECC REG)
GPU
8 x NVIDIA H100
Preis
Fragen Sie das Vertriebsteam
Kaufen
KI-Server
Neu
Auf Lager
ASUS ESC8000-E12P 8SFF/NVMe
Server ASUS ESC8000-E12P
Bauform
4U
CPU
2x Intel Xeon 6962P (72c/144t, 2.7GHz-3.9GHz, 500W)
RAM
512GB (DDR5 ECC REG)
GPU
8 x NVIDIA RTX PRO 6000 Blackwell
Preis
234.832  €
194.076  €
zzgl. 40.756  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
DELL PowerEdge XE9780 16NVMe
Server Dell PowerEdge XE9780
Bauform
8U
RAM
4096GB (DDR5 ECC REG)
GPU
8 x NVIDIA B200 SXM
Preis
Fragen Sie das Vertriebsteam
Kaufen
KI-Server
Neu
Auf Lager
DELL PowerEdge XE9680 16NVMe
Server Dell PowerEdge XE9680
RAM
4096GB (DDR5 ECC REG)
GPU
8 x NVIDIA H200
Preis
Fragen Sie das Vertriebsteam
Kaufen
KI-Server
Neu
Auf Lager
Gigabyte G593-ZD1-AAX3 8SFF/NVMe
Server GIGABYTE G593-ZD1-AAX3
RAM
6144GB (DDR5 ECC REG)
GPU
8 x NVIDIA H200
Preis
1.039.895  €
859.417  €
zzgl. 180.478  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
NVIDIA DGX B300
Server NVIDIA DGX B300
CPU
2x Intel Xeon 6776P (64c/128t, 2.3GHz-3.9GHz, 350W)
RAM
2000GB (DDR5 ECC REG)
GPU
8 x NVIDIA B300 SXM
Preis
1.404.981  €
1.161.141  €
zzgl. 243.840  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Gigabyte G294-S42-AAP1 8SFF/NVMe
Server GIGABYTE G294-S42-AAP1
Bauform
2U
CPU
2x Intel Xeon 6756E (128c/128t, 1.8GHz-2.6GHz, 225W)
RAM
384GB (DDR5 ECC REG)
GPU
4 x NVIDIA RTX PRO 6000 Blackwell
Preis
121.459  €
100.379  €
zzgl. 21.080  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
KI-Server
Neu
Auf Lager
Gigabyte G893-ZX1-AAX1 8SFF/NVMe
Server GIGABYTE Gigabyte G893-ZX1-AAX1
Bauform
8U
RAM
6144GB (DDR5 ECC REG)
GPU
8 x AMD Instinct MI300X
Preis
373.606  €
308.765  €
zzgl. 64.841  € MwSt.
Inklusive Versand innerhalb der EU
Kaufen
Sie können sich nicht entscheiden? Wir helfen Ihnen gerne. Wir helfen Ihnen, erklären Ihnen und beraten Sie.

Sie können jeden Server oder Storage nach Ihren Wünschen in unserem Konfigurator oder in Absprache mit einem Experten konfigurieren. Unsere Expertise hilft uns, neue Qualitätsstandards zu setzen.

KI-Server

KI-Server für Training, Fine-Tuning und Inferenz auswählen

Die passende Hardware ergibt sich aus dem Modell und dem geplanten Betrieb. Beim Training zählen neben den Gewichten auch Gradienten, Aktivierungen und Optimizer-Zustände. Bei der Inferenz beeinflussen Kontextlänge und gleichzeitige Anfragen den Speicherbedarf zusätzlich. Ein KI-Server sollte deshalb für einen konkreten Arbeitsablauf und eine messbare Zielgröße ausgelegt werden.

GPU-Speicher anhand des Modells abschätzen

Ein Modell mit 70 Milliarden Parametern benötigt bei 16 Bit rechnerisch rund 140 GB allein für die Gewichte. Speicher für Laufzeit und Inferenz-Cache kommt hinzu. Für die Auswahl klären Sie zuerst, in welcher Präzision das Modell tatsächlich läuft und wie groß Kontext und Batch werden. Anschließend lässt sich entscheiden, ob eine GPU genügt, die Gewichte quantisiert werden können oder das Modell über mehrere GPUs verteilt werden muss.

Einen Server oder mehrere Knoten planen

Wenn mehrere GPUs an einem Modell arbeiten, zählen die Verbindungen im Server. Ein HGX-basierter Server kann dafür eine Plattform mit NVLink und NVSwitch bereitstellen. Sobald Sie über mehrere Knoten trainieren, kommen Netzwerkkarten, Switches und das verteilte Framework hinzu. Messen Sie bei einer Pilotkonfiguration sowohl die Leistung innerhalb eines Knotens als auch die Skalierung über das Netzwerk.

  • Training. Legen Sie fest, wie viele Daten und Trainingsschritte in welcher Zeit verarbeitet werden müssen. Wählen Sie danach Präzision, Parallelisierung und Checkpoint-Speicher.
  • Fine-Tuning. Beschreiben Sie die Methode. LoRA und eine vollständige Anpassung aller Gewichte stellen unterschiedliche Anforderungen an Speicher und Rechenzeit.
  • Inferenz. Legen Sie ein Ziel für Antwortzeit und Durchsatz fest. Messen Sie mit realistischen Kontextlängen und gleichzeitig aktiven Anfragen.

Plattform und Software im selben Angebot vergleichen

Für eine CUDA-Umgebung kommen unter anderem Server mit NVIDIA H200 infrage. Wenn das Framework und die eingesetzten Operatoren unter ROCm laufen, bietet ein Server mit AMD Instinct MI300X eine andere Plattform zum Vergleich. Die Übersichten für Dell KI-Server und HPE KI-Server helfen, GPU-Bestückung, Kühlung und den Aufbau pro Knoten einzuordnen.

Häufig gestellte Fragen
Haben Sie eine eigene Frage?
Fragen Sie einen Berater
Wie viel GPU-Speicher brauche ich für mein Sprachmodell?

Beginnen Sie mit Parameterzahl mal Bytes pro Gewicht. Ergänzen Sie den Speicher für Laufzeit und KV-Cache. Bei Training oder Fine-Tuning kommen je nach Verfahren weitere Zustände hinzu. Ein Test mit dem vorgesehenen Batch ist die verlässlichste Grundlage.

Können mehrere GPUs ihren Speicher für ein Modell gemeinsam nutzen?

Die Anwendung kann Modellteile über mehrere GPUs verteilen, wenn Framework und Parallelisierungsverfahren dies unterstützen. Die Summe der Speicherkapazitäten allein genügt als Planungswert nicht.

Welche Zahl hilft bei der Auswahl eines Inferenzservers?

Legen Sie zum Beispiel Tokens pro Sekunde und die tolerierbare Antwortzeit bei einer definierten Zahl gleichzeitiger Anfragen fest. Geben Sie Kontextlänge, Modell und Präzision für die Messung an.

Wann ist das Netzwerk zwischen den KI-Servern wichtig?

Sobald ein Trainingsjob Daten oder Gradienten zwischen Knoten austauscht, beeinflussen Bandbreite und Latenz die Skalierung. Für getrennte Modellinstanzen ist eher die Versorgung mit Daten und Anfragen maßgeblich.

Kann ich dieselbe KI-Software auf NVIDIA und AMD einsetzen?

Das hängt von Framework, Version und verwendeten GPU-Operatoren ab. CUDA und ROCm sind unterschiedliche Softwareumgebungen. Testen Sie auch Erweiterungen, Inferenzserver und Container-Images auf der Zielplattform.

6 Gründe
einen Server bei Servermall zu kaufen
1. Angebot in 1 Std. erhalten

Normalerweise dauert es 20–30 Minuten. Ja, so schnell sind wir.

Kostenloser Versand innerhalb der EU

Wir liefern an jeden Standort in der EU – schnell und zuverlässig.

3. 30 Tage Geld-zurück-Garantie.

Sie können jedes Gerät innerhalb von 30 Tagen zurückgeben. Ohne Angabe von Gründen. Der volle Betrag wird erstattet. Wir nehmen Ihnen das gerne.

4. Vor-Ort-Diagnose

Im Garantiefall reparieren oder ersetzen wir das defekte Gerät umgehend. Vor Ort. Kostenlos. 5 Jahre lang.

5. Unser Lager

Wir besitzen ein Lager in Vilnius. So können wir die Geräte schnell in ganz Europa versenden.

6. Wir stehen unseren Kunden zur Seite.

Wir bieten Ihnen jederzeit After-Sales-Support. Unsere Experten helfen Ihnen bei der Lösung aller Probleme.

5
Jahre
Garantie
Was? 5 Jahre Garantie auf die Geräte?
Klingt verrückt, oder? Tatsächlich ist es das nicht: Wir vertrauen auf die Ergebnisse unserer Diagnosen und Tests. Und wenn etwas schiefgeht, reparieren wir es. Kostenlos.
Test abgeschlossen

Wir möchten sicherstellen, dass unsere Geräte für Sie absolut zuverlässig sind. Deshalb werden alle unsere Geräte (auch neue) umfassend diagnostiziert, getestet und Teile ausgetauscht.

Extreme
Tests

Wir statten unsere Geräte mit verschiedenen Dienstprogrammen und Software aus. Sie werden garantiert lange funktionieren.

CPU, RAM,
Stromversorgung

Die Komponenten arbeiten mit voller Leistung und werden mehrere Tage lang getestet. Bei Zweifeln tauschen wir sie aus.

Umfassende Prüfung
aller Geräte

Unsere Vorschriften sehen die gleichen Prüfungen für gebrauchte und neue Geräte vor. Übrigens: Wir ergänzen die offizielle Herstellergarantie durch unsere eigene Garantie.

Benötigen Sie Unterstützung? Wir kennen uns mit Hardware bestens aus.