AI Model Serving est un service de la plateforme Data & AI de STACKIT qui donne aux entreprises un accès par API à de grands modèles de langage ; la page produit cite Llama 3.1 en exemple. Les organisations relient leur propre chatbot ou application au modèle de leur choix et peuvent ajouter des données d'entreprise grâce à un modèle RAG open source. La facturation se fait au jeton, et le service fonctionne dans le cloud STACKIT, sans logiciel à installer soi-même.
STACKIT est exploité par Schwarz Digits Cloud GmbH & Co. KG, filiale du groupe Schwarz en Allemagne, qui se déclare indépendante d'investisseurs externes. STACKIT indique que les données clients sont hébergées exclusivement en Europe et que ses services sont conformes au RGPD. La page produit précise que les requêtes et les données ne sont ni conservées ni utilisées pour entraîner des modèles ; il s'agit de la déclaration du fournisseur. STACKIT se présente comme un hyperscaler européen : pour votre organisation, une alternative hébergée en Europe aux services américains.