Guardrails is een open-source Python-framework om guardrails toe te voegen aan toepassingen met grote taalmodellen. Het draait invoer- en uitvoercontroles (guards) die risico's detecteren en beperken, zoals toxische taal, persoonsgegevens of vermelding van concurrenten, en het helpt gestructureerde uitvoer te genereren op basis van een Pydantic-model. Validators komen uit de Guardrails Hub en worden als pakketten geïnstalleerd. U gebruikt het als Python-bibliotheek of draait het als zelfstandige server met een REST-API. Het bedrijf Guardrails AI biedt daarnaast Guardrails Pro aan, een beheerde dienst met een privé-hub en observability-dashboards.
Het framework valt onder de Apache 2.0-licentie en kan volledig in eigen beheer draaien, zodat gegevens in uw eigen omgeving blijven. Het bedrijf Guardrails AI is een Amerikaanse startup met vestiging in San Francisco. Volgens de leverancier wordt Guardrails Pro uitgerold als gecentraliseerde dienst binnen de eigen VPC van de klant. Voor Europese organisaties is zelf hosten de directe weg naar controle over data en jurisdictie; de betaalde dienst blijft afkomstig van een Amerikaanse leverancier.