AI Model Serving is een dienst binnen het Data & AI-platform van STACKIT die bedrijven via API toegang geeft tot grote taalmodellen; de productpagina noemt Llama 3.1 als voorbeeld. Organisaties koppelen hun eigen chatbot of applicatie aan een model naar keuze en kunnen bedrijfsdata toevoegen met een open-source RAG-template. Het gebruik wordt per token gefactureerd en de dienst draait in de STACKIT-cloud, niet als software die u zelf installeert.
STACKIT wordt geëxploiteerd door Schwarz Digits Cloud GmbH & Co. KG, onderdeel van de Schwarz Group in Duitsland, die het bedrijf onafhankelijk van externe investeerders noemt. Volgens STACKIT wordt klantdata in de Europese datacenters uitsluitend in Europa gehost en voldoen de diensten aan de AVG. De productpagina stelt dat queries en data niet worden opgeslagen en niet voor het trainen van modellen worden gebruikt; dat is een verklaring van de aanbieder. STACKIT noemt zichzelf een Europese hyperscaler; voor uw organisatie is het daarmee een in Europa gehost alternatief voor de modeldiensten van Amerikaanse hyperscalers.