Vigil ist eine Open-Source-Python-Bibliothek und REST-API, die Prompts und Antworten von Sprachmodellen (LLMs) auf Prompt-Injection, Jailbreaks und andere riskante Eingaben bewertet. Jeder konfigurierte Scanner fließt in das Gesamturteil ein: Ähnlichkeit in einer Vektordatenbank, YARA-Heuristiken, ein Transformer-Modell, Prompt-Antwort-Ähnlichkeit sowie Canary Tokens zum Erkennen von Prompt-Leaks. Eigene Erkennungen lassen sich über YARA-Signaturen ergänzen. Das Projekt liefert außerdem Signaturen und Datensätze für das Selbsthosting sowie eine Streamlit-Weboberfläche zum Ausprobieren. Vigil läuft als API-Server oder wird als Bibliothek in eine Python-Anwendung eingebunden.
Hinter Vigil steht kein Unternehmen, und es gibt keinen gehosteten Dienst: Sie betreiben es auf eigener Infrastruktur, sodass keine Daten an einen Anbieter gehen. Das gilt jedoch nur, solange Sie lokale Embeddings (SBERT) nutzen; bei OpenAI-Embeddings verlässt Text Ihre Umgebung. Der Code steht unter der Apache-2.0-Lizenz. Laut den Entwicklern befindet sich das Projekt im Alpha-Stadium und sollte als experimentell oder als Forschungswerkzeug betrachtet werden. Für den Produktivbetrieb muss eine europäische Organisation die Pflege daher selbst sicherstellen.