Rafay est une plateforme d'orchestration d'infrastructure IA et de gestion de Kubernetes. Des organisations telles que des opérateurs télécoms, des « neoclouds » et de grandes entreprises peuvent l'utiliser pour transformer la capacité GPU en services en libre-service avec gouvernance, multi-tenance et maîtrise des coûts. L'offre comprend des clusters Kubernetes, des machines virtuelles, des serveurs GPU bare metal, des clusters SLURM et l'inférence de modèles facturée au jeton, avec observabilité et remédiation automatisée.
Rafay Systems, Inc. est basée à Sunnyvale, en Californie : c'est un éditeur américain ; aucune société mère n'est connue et l'entreprise est financée par du capital-risque. Selon son site, la plateforme peut fonctionner dans une région donnée, en environnement privé ou isolé, sur site comme en hybride. L'hébergement de la couche de gestion n'est pas précisé et la politique de confidentialité évoque des serveurs aux États-Unis sans mentionner le RGPD. Les organisations européennes qui bâtissent des clouds IA souverains doivent donc faire préciser le lieu de gestion, les conditions de sous-traitance et l'effet du droit américain.