PyRIT (Python Risk Identification Tool) ist ein Open-Source-Framework für automatisiertes und menschengeführtes KI-Red-Teaming, mit dem Sicherheitsfachleute und Entwickler Risiken in generativen KI-Systemen proaktiv aufspüren. Es unterstützt Ziele wie OpenAI, Azure, Anthropic, Google, Hugging Face und eigene HTTP-Endpunkte, führt einstufige und mehrstufige Angriffe aus (darunter Crescendo und TAP), bewertet Antworten mit Scorern und speichert Ergebnisse in SQLite oder Azure SQL. Sie installieren es per pip und nutzen es über einen Scanner, eine Weboberfläche oder das Python-Framework.
PyRIT steht unter der MIT-Lizenz und wird von Microsoft gepflegt; das Repository liegt in der Microsoft-Organisation auf GitHub. Es ist kein von der Community verwaltetes Projekt. Es läuft in Ihrer eigenen Umgebung, sodass kein vom Anbieter gehosteter Dienst Ihre Daten erhält; die getesteten Zielmodelle können jedoch anderswo gehostet sein. Für europäische Organisationen bedeutet das Kontrolle über Ausführung und Testdaten, aber Abhängigkeit von Microsoft bei der Roadmap.