Guardrails est un framework Python open source pour ajouter des garde-fous aux applications fondées sur de grands modèles de langage. Il exécute des contrôles en entrée et en sortie (guards) qui détectent et atténuent des risques comme le langage toxique, les données personnelles ou la mention de concurrents, et aide à générer des sorties structurées à partir d'un modèle Pydantic. Les validateurs viennent du Guardrails Hub. Vous l'utilisez comme bibliothèque Python ou comme serveur autonome avec une API REST. L'entreprise Guardrails AI propose aussi Guardrails Pro, un service géré avec hub privé et tableaux de bord d'observabilité.
Le framework est sous licence Apache 2.0 et peut être exploité entièrement sous votre contrôle. L'entreprise Guardrails AI est une start-up américaine basée à San Francisco. Selon l'éditeur, Guardrails Pro est déployé comme service centralisé dans le VPC du client. Pour les organisations européennes, l'auto-hébergement est la voie directe vers la maîtrise des données et de la juridiction ; le service payant reste fourni par un éditeur américain.