Azure AI Content Safety is een Microsoft-dienst die schadelijke door gebruikers of door AI gegenereerde content in applicaties herkent. De dienst biedt tekst- en beeld-API's die onder meer seksuele inhoud, geweld, haat en zelfbeschadiging beoordelen met meerdere ernstniveaus. Daarnaast zijn er Prompt Shields tegen aanvallen op taalmodellen, detectie van beschermd materiaal, groundedness-detectie (preview), eigen categorieën en de webtool Content Safety Studio. Ontwikkelaars gebruiken de dienst als Azure-resource via REST-API en SDK, met toegang via Microsoft Entra ID of Managed Identity en optioneel eigen sleutels (customer-managed keys).
Microsoft is gevestigd in de Verenigde Staten, dus de dienst valt onder Amerikaanse jurisdictie, inclusief de CLOUD Act. Een Content Safety-resource moet in een ondersteunde regio worden aangemaakt, en sommige functies zijn alleen in bepaalde regio's beschikbaar. Op de productpagina's staan geen regiolijst en geen verwerkersovereenkomst voor deze specifieke dienst; controleer de regiobeschikbaarheid en de geldende Microsoft-voorwaarden voordat u persoonsgegevens laat beoordelen. Een deel van de modellen werkt alleen voor Engels.