Shieldstral 1.0 ist ein kompaktes multimodales Sicherheitsmodell von Mistral AI. Es bewertet Text, Bilder oder eine Kombination aus beidem anhand einer in natürlicher Sprache vorgegebenen Richtlinie und liefert einen kontinuierlichen Sicherheitswert. Da die Richtlinie erst bei der Inferenz angegeben wird, lässt sich das Modell ohne erneutes Training auf neue Regeln ausrichten. Es ist für leichtgewichtige Echtzeit-Moderation von Nutzer-Prompts, Modellantworten und Verweigerungen gedacht, auch auf Edge-Geräten. Die Modellkarte nennt Unterstützung für 12 Sprachen. Das Modell wird als offene Gewichte bereitgestellt und läuft unter anderem mit vLLM, llama.cpp, SGLang oder Hugging Face Transformers.
Mistral AI ist ein französisches Unternehmen und unterliegt damit europäischem Recht. Die Gewichte liegen auf Hugging Face unter der Apache-2.0-Lizenz, für kommerzielle und nicht kommerzielle Nutzung. Da Sie das Modell in Ihrer eigenen Umgebung betreiben können, müssen Prompts und Antworten Mistral nicht erreichen. Mistral AI bleibt die Partei, die das Modell pflegt und veröffentlicht. Die Modellkarte weist darauf hin, dass die Zuverlässigkeit je nach Sprache und Domäne variiert und dass adversariale oder verschleierte Eingaben die Genauigkeit mindern können.