Rafay ist eine Plattform zur Orchestrierung von KI-Infrastruktur und zum Management von Kubernetes. Organisationen wie Telekommunikationsanbieter, sogenannte Neoclouds und Großunternehmen können damit GPU-Kapazität in Self-Service-Angebote mit Governance, Mandantenfähigkeit und Kostenkontrolle verwandeln. Das Angebot umfasst unter anderem Kubernetes-Cluster, virtuelle Maschinen, Bare-Metal-GPU-Server, SLURM-Cluster und tokenbasierte Modellinferenz, mit Observability und automatisierter Behebung.
Rafay Systems, Inc. hat seinen Sitz in Sunnyvale, Kalifornien, und ist damit ein US-amerikanischer Anbieter; eine Muttergesellschaft ist nicht bekannt, das Unternehmen ist wagniskapitalfinanziert. Laut Website kann die Plattform in der eigenen Region, in privaten oder Air-Gap-Umgebungen laufen, auch On-Premises und hybrid. Wo der Anbieter die Management-Ebene hostet, ist nicht angegeben, und die Datenschutzerklärung verweist auf Server in den Vereinigten Staaten, ohne die DSGVO zu erwähnen. Europäische Organisationen, die souveräne KI-Clouds aufbauen, sollten Managementstandort, Auftragsverarbeitung und die Wirkung von US-Recht daher ausdrücklich klären.