Azure AI Content Safety ist ein Microsoft-Dienst, der schädliche nutzer- oder KI-generierte Inhalte in Anwendungen erkennt. Er bietet Text- und Bild-APIs, die unter anderem sexuelle Inhalte, Gewalt, Hass und Selbstverletzung in mehreren Schweregraden bewerten. Hinzu kommen Prompt Shields gegen Angriffe auf Sprachmodelle, Erkennung geschützten Materials, Groundedness-Erkennung (Vorschau), benutzerdefinierte Kategorien und das Web-Tool Content Safety Studio. Entwickler nutzen ihn als Azure-Ressource über eine REST-API und SDKs, mit Zugriff über Microsoft Entra ID oder Managed Identity und optional kundenverwalteten Schlüsseln.
Microsoft hat seinen Sitz in den Vereinigten Staaten, daher unterliegt der Dienst US-Recht, einschließlich des CLOUD Act. Eine Content-Safety-Ressource muss in einer unterstützten Region angelegt werden, und einige Funktionen sind nur in bestimmten Regionen verfügbar. Auf den Produktseiten finden sich weder eine Regionsliste noch ein auf diesen Dienst bezogener Auftragsverarbeitungsvertrag; prüfen Sie die regionale Verfügbarkeit und die geltenden Microsoft-Bedingungen, bevor Sie personenbezogene Daten analysieren lassen. Ein Teil der Modelle funktioniert nur für Englisch.