Llama Guard ist eine Reihe von Moderationsmodellen für Ein- und Ausgaben von Meta und Teil des Projekts Purple Llama. Die Modelle sollen prüfen, was ein Sprachmodell erhält und zurückgibt, und Inhalte erkennen, die gegen Nutzungsrichtlinien verstoßen. Llama Guard 3 basiert auf Feinabstimmungen von Llama 3.1 und 3.2 und erkennt Gefahren nach der MLCommons-Taxonomie; es gibt Versionen mit 8B und 1B sowie ein 11B-Modell mit Bildunterstützung. Entwickler können die Modelle an den eigenen Anwendungsfall anpassen. Die Gewichte werden über Hugging Face verteilt, und Sie betreiben die Modelle selbst, etwa als Teil einer eigenen KI-Pipeline.
Meta ist ein US-Unternehmen und kontrolliert die Modelle und ihre Lizenzbedingungen. Die Modelle stehen unter der Llama Community License; Meta bezeichnet Komponenten von Purple Llama als permissiv lizenziert, doch handelt es sich um eine eigene Lizenz und nicht um eine Standard-Open-Source-Lizenz. Da Sie die Modelle in der eigenen Umgebung betreiben können, müssen Prompts und Antworten Meta nicht erreichen. Sie bleiben jedoch von Meta bei Updates und möglichen Änderungen der Lizenzbedingungen abhängig.