Promptfoo ist eine Open-Source-CLI und -Bibliothek zur Bewertung und zum Red-Teaming von Anwendungen auf Basis großer Sprachmodelle. Teams testen damit Prompts, Modelle und RAG-Pipelines, vergleichen Modelle verschiedener Anbieter nebeneinander und prüfen Agenten auf Schwachstellen wie Prompt Injection, Jailbreaks, PII-Lecks und unsichere Tool-Nutzung. Es läuft in CI/CD-Pipelines und lässt sich über npm, Homebrew oder pip installieren. Laut Projekt laufen Auswertungen lokal, sodass Prompts auf Ihrem eigenen Rechner bleiben. Für Unternehmen nennt die Website Integrationen on-premise oder in der Cloud.
Promptfoo steht unter der MIT-Lizenz; Sie können den Code einsehen und selbst betreiben. Im März 2026 gab das Unternehmen bekannt, dass es von OpenAI übernommen werden soll, und erklärt, das Open-Source-Projekt bleibe offen und werde weiter gepflegt. Für europäische Organisationen bedeutet das: Der kommerzielle Anbieter gehört einem nicht-europäischen KI-Anbieter, während die lokale Nutzung des Open-Source-Tools keine Datenübertragung an den Anbieter erfordert.