Azure AI Content Safety est un service de Microsoft qui détecte les contenus nuisibles, générés par des utilisateurs ou par l'IA, dans les applications. Ses API de texte et d'image évaluent notamment les contenus sexuels, la violence, la haine et l'automutilation selon plusieurs niveaux de gravité. S'y ajoutent Prompt Shields contre les attaques visant les modèles de langage, la détection de matériel protégé, la détection d'ancrage (préversion), des catégories personnalisées et l'outil web Content Safety Studio. Il s'utilise comme ressource Azure via API REST et SDK, avec Microsoft Entra ID ou Managed Identity et des clés gérées par le client en option.
Microsoft a son siège aux États-Unis : le service relève du droit américain, y compris du CLOUD Act. La ressource doit être créée dans une région prise en charge, et certaines fonctions ne sont disponibles que dans certaines régions. Les pages produit ne publient ni liste de régions ni accord de traitement propre à ce service ; vérifiez ces points avant d'analyser des données personnelles.