LLM Guard ist ein Open-Source-Sicherheits-Toolkit für Interaktionen mit Sprachmodellen, entwickelt von Protect AI. Es bietet Scanner für Eingaben (Prompts) und Ausgaben (Antworten), unter anderem gegen Prompt Injection, zum Anonymisieren sensibler Daten, zum Aufspüren von Geheimnissen, zur Erkennung schädlicher Sprache und zur Vermeidung von Datenabfluss. Das Toolkit wird als Python-Paket installiert, lässt sich in eine Anwendung integrieren oder als API-Dienst betreiben und steht unter der MIT-Lizenz. Es ist eine Bibliothek und kein gehosteter Dienst, Sie betreiben es also in Ihrer eigenen Umgebung.
Protect AI hat seinen Sitz in Seattle (USA). Palo Alto Networks kündigte 2025 an, Protect AI zu übernehmen. Das GitHub-Repository ist archiviert und schreibgeschützt, und die Seite weist darauf hin, dass das Projekt und die zugehörigen Modelle auf Hugging Face nicht mehr aktiv entwickelt oder gepflegt werden. Da der Code in Ihrer eigenen Umgebung läuft, müssen Prompts und Antworten den Anbieter nicht erreichen, Sie müssen jedoch selbst für Sicherheitsupdates oder eine Alternative sorgen.