Model Armor ist ein verwalteter Dienst von Google Cloud, der Prompts und Antworten von Anwendungen mit großen Sprachmodellen prüft. Er erkennt Prompt-Injection und Jailbreaks, filtert schädliche Inhalte wie Hassrede, sexuell explizite und gefährliche Inhalte, erkennt sensible Daten über Sensitive Data Protection und prüft auf bösartige URLs. Auch Dokumente werden geprüft. Administratoren legen Vorlagen und Schwellenwerte fest, wählen zwischen reiner Inspektion und Inspektion mit Blockierung und rufen den Dienst über eine API auf. Laut Google kann Model Armor auch KI-Anwendungen auf anderen Clouds schützen.
Model Armor ist ein Produkt von Google LLC, Teil von Alphabet Inc., mit Sitz in den Vereinigten Staaten. Daher kann US-Recht wie der CLOUD Act auf die vom Dienst verarbeiteten Daten anwendbar sein. Laut Dokumentation erfolgt die Verarbeitung zustandslos im Arbeitsspeicher, es gibt regionale Endpunkte, und Kontrollen zur Datenresidenz halten die Verarbeitung innerhalb einer gewählten Geografie wie den USA oder der EU. Der allgemeine Cloud Data Processing Addendum von Google nennt Google als Auftragsverarbeiter und definiert die DSGVO.