Guardrails ist ein Open-Source-Python-Framework, um Anwendungen auf Basis großer Sprachmodelle mit Guardrails auszustatten. Es führt Eingabe- und Ausgabeprüfungen (Guards) aus, die Risiken wie toxische Sprache, personenbezogene Daten oder die Nennung von Wettbewerbern erkennen und mindern, und hilft, strukturierte Ausgaben auf Basis eines Pydantic-Modells zu erzeugen. Validatoren stammen aus dem Guardrails Hub und werden als Pakete installiert. Sie nutzen es als Python-Bibliothek oder betreiben es als eigenständigen Server mit REST-API. Das Unternehmen Guardrails AI bietet außerdem Guardrails Pro an, einen verwalteten Dienst mit privatem Hub und Observability-Dashboards.
Das Framework steht unter der Apache-2.0-Lizenz und lässt sich vollständig in eigener Hand betreiben, sodass Daten in Ihrer Umgebung bleiben. Das Unternehmen Guardrails AI ist ein US-amerikanisches Start-up mit Sitz in San Francisco. Laut Anbieter wird Guardrails Pro als zentraler Dienst in der eigenen VPC des Kunden bereitgestellt. Für europäische Organisationen ist Selbsthosting der direkte Weg zu Kontrolle über Daten und Jurisdiktion; der kostenpflichtige Dienst stammt weiterhin von einem US-Anbieter.