Les outils de sécurité de l'IA protègent les systèmes fondés sur des modèles de langage et des agents. Ils détectent l'injection de prompt et les fuites de données, mènent des tests de red teaming, surveillent ce que les agents peuvent faire et appliquent des garde-fous de gouvernance. Les équipes de sécurité et de conformité s'en servent pour démontrer la maîtrise de l'usage de l'IA.
Ces outils se placent au cœur du trafic IA et voient donc les prompts, documents et réponses qu'ils protègent. Un service de garde-fous qui transmet le contenu à un classificateur hébergé ajoute un sous-traitant pour les données les plus sensibles, et sa télémétrie peut révéler comment vous utilisez l'IA. La juridiction de l'éditeur pèse donc autant que la qualité de détection. La dépendance découle de politiques, de règles de détection et de journaux d'audit propriétaires, difficiles à exporter. Les obligations de gestion des risques et de documentation pour les systèmes à haut risque du règlement européen sur l'IA motivent de plus en plus cette catégorie.
Pour une solution européenne, demandez si la détection peut tourner dans votre environnement, ce qui est journalisé et combien de temps, si les politiques sont portables, comment l'outil est testé face aux attaques qu'il prétend couvrir et s'il fonctionne avec plusieurs fournisseurs de modèles.