WitnessAI ist eine Plattform für KI-Sicherheit und -Governance, die sowohl Mitarbeitende als auch KI-Agenten abdeckt. Sie besteht aus drei Teilen: Observe erkennt die KI-Nutzung, katalogisiert KI-Apps und MCP-Server und zeigt, wie Agenten mit externen Tools interagieren; Control legt Richtlinien nach Rolle, Abteilung oder Absicht fest, erzwingt freigegebene MCP-Server und Tools, schwärzt sensible Daten und erzeugt Audit-Trails; Protect bietet Laufzeitschutz gegen Prompt-Injection und Jailbreaks, filtert schädliche Antworten und steuert Aktionen von Agenten. Hinzu kommt eine Funktion für automatisiertes KI-Red-Teaming vor der Bereitstellung.
WitnessAI hat seinen Sitz in Mountain View, Kalifornien, und unterliegt als US-Anbieter US-Recht, einschließlich des CLOUD Act. Im Rahmen seiner Compliance-Lösung nennt der Anbieter eine Single-Tenant-Umgebung mit Datensouveränität; auf der Website ist nicht angegeben, in welchen Regionen Daten gehostet werden oder wie der Dienst bereitgestellt wird. Eine europäische Organisation, die Prompts und Agenten-Verkehr über diese Plattform leitet, sollte daher Verarbeitungs- und Speicherort vertraglich und technisch bestätigen lassen.