Swiss Engineering Das Betriebssystem für KI in Ihrem lokalen Rechenzentrum
Unsere Software verbindet Server, GPUs, Modelle, APIs, Monitoring und Updates in einer Plattform. Vollständig on premises, auch in Air-Gapped-Umgebungen.
Modelle sicher in Betrieb nehmen
Der Modellkatalog zeigt nur Konfigurationen, die zur vorhandenen Hardware passen. Vor dem Start prüft die Plattform den freien VRAM und blockiert, was nicht passt, bevor ein Fehler die Produktion erreicht.
- Server: Nodes mit Kubernetes-Runtime, VRAM-Belegung sowie Leistungs- und Temperatur-Timelines in einer Ansicht.
- Modellkatalog: Multimodal von Text über Vision und OCR bis Embeddings, mit klaren Reifegraden von stable bis unsupported.
- Deployment: Getestete Memory-Profile, versionierte Manifeste und Readiness-Probes machen jedes Deployment reproduzierbar.
Geschützte Schnittstellen für Ihre Anwendungen
Jedes Modell wird über ein authentifiziertes Gateway bereitgestellt, inklusive OpenAI-kompatibler APIs als Drop-in-Ersatz für Cloud-Dienste.
- API-Gateway: Authentifizierung, Routing, Nutzungszuordnung und Überlastschutz an einer Stelle.
- API-Keys: Benannte Schlüssel mit letzter Nutzung und Token-Verbrauch, sofort erneuerbar oder widerrufbar.
- Playground: Testet über den echten Produktionspfad und liefert den Integrationscode gleich mit.
Den Betrieb jederzeit im Blick
Status, Alerts und Usage legen API-Verhalten, Pod-Events und GPU-Aktivität auf dieselbe Timeline. Das verkürzt die Ursachenanalyse und gibt Incident-Reviews eine gemeinsame Faktenbasis.
- Status: Endpoint-Historie, Time to First Token und Cluster-Events korreliert auf einer Timeline.
- Alerts: Nach KI/GPU, Kubernetes und Host gruppiert, mit Evidenz und Übergabe an den DevOps-Agenten.
- Usage: Tokens, KV-Cache, GPU-Energie und Ablehnungsgründe, gruppierbar nach Modell und API-Key.
Volle Kontrolle, auch ohne Internetverbindung
Sicherheitskontrollen sind im Produkt sichtbar und ISO 27001 sowie SOC 2 zugeordnet, offene Punkte bleiben klar markiert. Updates startet immer ein Operator: online oder per USB-Paket im Air-Gap.
- Governance: Kontrollstatus für Identity, RBAC, TLS, Audit-Logging und Hochverfügbarkeit.
- Identity: OAuth2 und OIDC über Keycloak binden bestehende Enterprise-Identitäten an.
- Updates: Versionierte Releases mit Historie und Logs, für verbundene und Air-Gapped-Standorte.
Geprüfte Hardware für den zuverlässigen Betrieb
Unsere Software ist hardware-bewusst: Der Modellkatalog, die Memory-Profile und die Deployments beziehen sich auf konkrete GPUs, einzeln oder im Cluster über mehrere Nodes. Diese GPU-Familien und Dell-Chassis sind für den Betrieb freigegeben:
NVIDIA RTX PRO 6000 Blackwell
96 GB GDDR7Blackwell-GPU mit sehr gutem Preis-Leistungs-Verhältnis für Inferenz. Basis der Konfigurationen S1, S2, DC4 und DC8.
NVIDIA H100
80 GB HBM3Bewährte Hopper-Rechenzentrums-GPU für anspruchsvolle Inferenz- und Fine-Tuning-Workloads.
NVIDIA H200
141 GB HBM3eHopper-GPU mit erweitertem Speicher und höherer Bandbreite: mehr Kontext und grössere Modelle pro GPU.
NVIDIA GH200
Bis 144 GB HBM3e + 480 GB LPDDR5XGrace-Hopper-Superchip: CPU und GPU mit gemeinsamem Speicherzugriff, ideal für sehr grosse Modelle und speicherintensive Pipelines.
NVIDIA B200
180 GB HBM3eBlackwell-Rechenzentrums-GPU für höchsten Inferenz-Durchsatz, die Basis des DGX B200.
NVIDIA B300
288 GB HBM3eBlackwell-Ultra-GPU mit erweitertem Speicher für die grössten Modelle und längste Kontexte.