TrueFoundry biedt een enterprise-AI-gateway voor LLM's, MCP-servers en agenten. De AI Gateway verbindt veel modellen via één interface met routing, fallbacks, limieten, kostenbeheer en observability. De MCP Gateway verbindt agenten met tools en MCP-servers met centrale authenticatie, toegangsbeheer en auditsporen, en de Agent Gateway beheert identiteit, toegangsregels en tracing van agenten. Daarnaast levert TrueFoundry een platform voor het uitrollen van AI, prompt-beheer, een register voor agentvaardigheden en tooling voor training en fine-tuning. Single sign-on, rolgebaseerde toegang en auditlogging zijn ingebouwd.
TrueFoundry draait volgens de website op locatie, in een VPC, in een hybride opzet, in air-gapped omgevingen of in de publieke cloud, en volgens het bedrijf blijven gegevens en modellen in de eigen cloud of on-premises-infrastructuur van de klant. Het bedrijf is gevestigd in San Francisco (Ensemble Labs Inc). Een Europese organisatie kan het platform dus in een eigen EU-omgeving laten draaien, maar blijft dan afhankelijk van een Amerikaanse leverancier voor software en support.