PyRIT (Python Risk Identification Tool) est un framework open source de red teaming de l'IA, automatisé ou mené par des humains, qui permet aux spécialistes de la sécurité d'identifier de manière proactive les risques des systèmes d'IA générative. Il prend en charge des cibles comme OpenAI, Azure, Anthropic, Google, Hugging Face et des points de terminaison HTTP personnalisés, exécute des attaques à un ou plusieurs tours (dont Crescendo et TAP), évalue les réponses avec des scorers et stocke les résultats dans SQLite ou Azure SQL. Vous l'installez avec pip et l'utilisez via un scanner, une interface web ou le framework Python.
PyRIT est sous licence MIT et maintenu par Microsoft ; le dépôt relève de l'organisation Microsoft sur GitHub. Ce n'est pas un projet gouverné par la communauté. Il s'exécute dans votre environnement : aucun service hébergé par l'éditeur ne reçoit vos données, mais les modèles cibles testés peuvent être hébergés ailleurs. Pour une organisation européenne : maîtrise de l'exécution et des données de test, mais dépendance envers Microsoft pour la feuille de route.