Wir setzen auf NVIDIA-GPUs, vom Enterprise-Server bis zum KI-Rechenzentrum. Die onprem.ai Software unterstützt das gesamte Spektrum:
- NVIDIA RTX PRO 6000 Blackwell: Blackwell-GPU mit sehr gutem Preis-Leistungs-Verhältnis für Inferenz, Basis der Konfigurationen S1, S2, DC4 und DC8
- NVIDIA H100: bewährte Hopper-Rechenzentrums-GPU für anspruchsvolle Inferenz- und Fine-Tuning-Workloads
- NVIDIA H200: Hopper-GPU mit erweitertem Speicher und höherer Bandbreite für mehr Kontext und größere Modelle pro GPU
- NVIDIA GH200: Grace-Hopper-Superchip für höchste Anforderungen
Warum diese Auswahl?
Professionelle LLM-Inferenz braucht vor allem Speicherkapazität und Speicherbandbreite. Die eingesetzten GPUs bieten beides in einem Spektrum von kosteneffizienten Team-Servern bis zu maximalen Leistungsszenarien, mit ausgereiften Treibern und breiter Software-Unterstützung.
Unsere Konfigurationen
Der Einstieg beginnt beim Server S1 und wächst in 2-GPU-Schritten: S2 (2x RTX PRO 6000 Blackwell, 192 GB VRAM) für ganze Teams, DC4 und DC8 für Rechenzentren. Alle Details auf der Server-Seite.
Hinweis: GPU-Preise sind derzeit volatil. Was Ihre Konfiguration kostet, zeigt der Kostenrechner, verbindliche Zahlen erhalten Sie im Angebot.
Nächste Schritte
- Software ansehen mit allen unterstützten GPUs
- Server ansehen mit allen Konfigurationen
- Kontakt aufnehmen für eine Hardware-Beratung