TrueFoundry bietet ein Enterprise-KI-Gateway für LLMs, MCP-Server und Agenten. Das AI Gateway verbindet viele Modelle über eine Schnittstelle, mit Routing, Fallbacks, Limits, Kostenkontrolle und Observability. Das MCP Gateway verbindet Agenten mit Tools und MCP-Servern mit zentraler Authentifizierung, Zugriffskontrolle und Audit-Trails, und das Agent Gateway verwaltet Agentenidentität, Zugriffsrichtlinien und Tracing. Außerdem bietet TrueFoundry eine Plattform für das Deployment von KI, Prompt-Management, ein Register für Agent Skills sowie Werkzeuge für Training und Fine-Tuning. Single Sign-on, rollenbasierter Zugriff und Audit-Logging sind integriert.
Laut Website kann TrueFoundry on-premises, in einer VPC, hybrid, in Air-Gap-Umgebungen oder in der öffentlichen Cloud betrieben werden, und das Unternehmen gibt an, dass Daten und Modelle in der eigenen Cloud oder On-Premises-Infrastruktur des Kunden bleiben. Das Unternehmen sitzt in San Francisco (Ensemble Labs Inc). Eine europäische Organisation kann die Plattform daher in einer eigenen EU-Umgebung betreiben, bleibt für Software und Support aber von einem US-Anbieter abhängig.