Promptfoo est une CLI et une bibliothèque open source pour évaluer et soumettre à des tests de red teaming les applications fondées sur de grands modèles de langage. Les équipes y testent prompts, modèles et pipelines RAG, comparent côte à côte des modèles de fournisseurs différents et recherchent chez les agents des failles comme l'injection de prompt, les jailbreaks, les fuites de PII et l'usage non sécurisé d'outils. Il s'intègre aux pipelines CI/CD et s'installe via npm, Homebrew ou pip. Selon le projet, les évaluations s'exécutent localement : vos prompts restent sur votre machine. Pour les entreprises, le site mentionne des intégrations sur site ou dans le cloud.
Promptfoo est sous licence MIT : vous pouvez inspecter le code et l'exécuter vous-même. En mars 2026, la société a annoncé son rachat par OpenAI et affirme que le projet open source reste ouvert et maintenu. Pour une organisation européenne, l'éditeur commercial appartient donc à un acteur non européen de l'IA, tandis qu'un usage local de l'outil open source n'implique pas d'envoyer de données à l'éditeur.