Giskard ist ein französisches Unternehmen, das Tests und Red-Teaming für KI-Agenten und Sprachmodelle anbietet. Die Open-Source-Bibliothek und der kommerzielle Giskard Hub testen Konversationsagenten als Black Box, wofür nur ein API-Endpunkt nötig ist. Sie suchen nach Sicherheitsproblemen wie Prompt-Injection und Datenoffenlegung sowie nach Qualitätsproblemen wie Halluzinationen und unangemessenen Ablehnungen. Testfälle lassen sich aus Quellen wie RAG-Wissensbasen erzeugen, und Fachexperten können in einer gemeinsamen Umgebung bei Annotation und Red-Teaming mitwirken. Zusätzlich bietet Giskard verwaltete Dienste an, darunter einen Go/No-Go-Bericht.
Giskard ist ein europäisches Unternehmen mit Frankreich als Sitzland. Beim verwalteten Hosting des Hub wählen Sie laut Website zwischen Datenresidenz in der EU und in den USA; wählen Sie die EU, wenn Daten in Europa bleiben müssen. Für sensible Branchen wie öffentliche Verwaltung und Verteidigung ist laut Anbieter eine On-Premises-Installation möglich. Die Open-Source-Bibliothek können Sie selbst betreiben. Der Anbieter nennt eine Richtlinie, Kundendaten nicht für Trainingszwecke zu verwenden.