18 fournisseurs open source pour Sécurité de l'IA
Logiciels Sécurité de l'IA open source que vous pouvez héberger vous-même, avec un code source vérifiable — quel que soit le siège de l'éditeur.
- fournisseurs notés
- 18
- européens
- 3
- à propriétaire étranger
- 4
- dernière vérification
- 10 octobre 2026
Fournisseurs évalués
Score par fournisseur : 0 = exposition élevée, 100 = souverain
Trier
- Score de souveraineté 92 sur 100Mistral ShieldstralFrance · Auto-hébergé / open sourceClassificateur de sécurité adaptatif politique de 3B paramètres publié par Mistral AI (France) sous Apache 2.0 en tant que poids ouverts, pour la modération de contenu sur l'appareil. Mistral AI est une véritable entreprise, donc pas un projet sans société contrôlante malgré la licence ouverte.
- Score de souveraineté 92 sur 100TaoQ AIPays-Bas · Auto-hébergé / open sourceEntreprise de recherche et d'ingénierie en IA appliquée spécialisée dans la sécurité de l'IA, le red-teaming d'agents et la conformité à la loi européenne sur l'IA avec cadres de test de sécurité open source pour les systèmes intelligents
- Score de souveraineté 82 sur 100GiskardFrance · Souverain UEPlateforme française open-source pour les tests IA, le red-teaming et les gardes.
- Score de souveraineté 69 sur 100Adversarial Robustness ToolboxÉtats-Unis · Auto-hébergé / open sourceBibliothèque Python open source (MIT) pour la sécurité de l'apprentissage automatique : attaques et défenses contre évasion, empoisonnement, extraction et inférence ; sous LF AI & Data.
- Score de souveraineté 69 sur 100Garak (NVIDIA)États-Unis · Auto-hébergé / open sourceScanner de vulnérabilité LLM open-source de l'équipe rouge IA de NVIDIA sondant les hallucinations, les fuites de données, l'injection de requête et les jailbreaks sur 50+ modules de sonde. Contrôlé par NVIDIA, pas un projet communautaire.
- Score de souveraineté 69 sur 100Langkit (WhyLabs)États-Unis · Auto-hébergé / open source · propriétaire en États-UnisLangKit est la boîte à outils open source de WhyLabs pour surveiller les LLM, extrayant des signaux tels que la toxicité, les PII, le sentiment et la détection de jailbreak à partir des prompts et réponses ; WhyLabs a abandonné sa plateforme commerciale mais LangKit reste disponible en open source.
- Score de souveraineté 69 sur 100LLM Guard (Protect AI)États-Unis · Auto-hébergé / open source · propriétaire en États-UnisLLM Guard est une boîte à outils de sécurité open source de Protect AI (désormais filiale de Palo Alto Networks), avec des scanners d'entrée/sortie contre l'injection de prompts, les fuites de données et le langage nuisible dans les applications LLM.
- Score de souveraineté 69 sur 100NVIDIA NeMo GuardrailsÉtats-Unis · Auto-hébergé / open sourceBoîte à outils open source de NVIDIA pour ajouter des garde-fous programmables aux systèmes conversationnels LLM, avec support pour les déploiements auto-hébergés. Contrôlé par NVIDIA, pas un projet gouverné par la communauté.
- Score de souveraineté 69 sur 100Portkey AIÉtats-Unis · Auto-hébergé / open source · propriétaire en États-UnisPortkey AI (San Francisco, États-Unis ; racheté par Palo Alto Networks en 2026 pour Prisma AIRS) est une passerelle IA open source avec plus de 60 garde-fous contre les jailbreaks, l'injection de prompts et les fuites de PII.
- Score de souveraineté 69 sur 100Presidio (Microsoft)États-Unis · Auto-hébergé / open source · propriétaire en États-UnisPresidio est le framework open source de Microsoft pour détecter, masquer et anonymiser les données personnelles (PII) dans le texte, les images et les données structurées, largement utilisé pour prévenir les fuites de PII dans les pipelines LLM.
- Score de souveraineté 69 sur 100Project AsagoÉtats-Unis · Auto-hébergé / open sourceProjet open-source initié par Red Hat (août 2026, Apache 2.0) traduisant NIST AI RMF, OWASP LLM Top 10 et exigences EU AI Act en contrôles de gouvernance techniques pour les agents IA; les participants incluent Red Hat, NVIDIA, IBM Research, MIT Lincoln Laboratory, Microsoft et l'Institut Alan Turing — aucune partie contrôlante unique.
- Score de souveraineté 69 sur 100VigilÉtats-Unis · Auto-hébergé / open sourceVigil est une bibliothèque Python open source et une API REST (par le chercheur deadbits/Adam Swanda) qui analyse les prompts et réponses des LLM pour détecter l'injection de prompts, les jailbreaks et les fuites de prompts ; statut alpha expérimental avec une maintenance active limitée.
- Score de souveraineté 57 sur 100DeepchecksIsraël · Fournisseur non UEPlateforme Open Source de validation du ML de la société israélienne Deepchecks (Tel Aviv) offrant des tests de données et de modèles complets de la recherche à la production.
- Score de souveraineté 49 sur 100AktoÉtats-Unis · Fournisseur non UEPlateforme américaine de sécurité des agents IA : découverte, test, red-teaming, gestion de la posture et garde-fous pour les agents IA et les API.
- Score de souveraineté 49 sur 100Evidently AIÉtats-Unis · Fournisseur non UECadre open-source d'observabilité ML et LLM pour évaluer, tester et surveiller les systèmes d'IA et les pipelines de données avec 100+ métriques intégrées; soutenu par une véritable entreprise, pas un projet sans entreprise contrôlante.
- Score de souveraineté 49 sur 100Guardrails AIÉtats-Unis · Fournisseur non UEFramework Python open-source pour valider et structurer les sorties LLM avec 50+ validateurs préconstruits et un service géré optionnel avec des tableaux de bord d'observabilité.
- Score de souveraineté 49 sur 100PromptfooÉtats-Unis · Fournisseur non UEFramework MIT open-source d'évaluation LLM et de red-teaming pour tester les prompts, modèles et pipelines RAG, soutenu par une véritable entreprise financée par du capital-risque.
- Score de souveraineté 49 sur 100PyRIT (Microsoft)États-Unis · Fournisseur non UEOutil open-source Python Risk Identification Tool de Microsoft pour mener des exercices de red team afin d'identifier de manière proactive les risques dans les systèmes d'IA générative avec support d'attaque multi-modal. Contrôlé par Microsoft, pas un projet gouverné par la communauté.
Évaluez votre propre pile dans l'évaluation
Évaluer votre pile technologique →