18 Open-Source-Anbieter für KI-Sicherheit
Open-Source-Software für KI-Sicherheit, die Sie selbst hosten können, mit prüfbarem Quellcode — unabhängig vom Hauptsitz des Entwicklers.
- Anbieter bewertet
- 18
- europäisch
- 3
- mit ausländischem Eigentümer
- 4
- zuletzt geprüft
- 10. Oktober 2026
Anbieter mit Score
Score je Anbieter: 0 = hohe Exposition, 100 = souverän
Sortieren
- Souveränitäts-Score 92 von 100Mistral ShieldstralFrankreich · Selbst hosten / Open Source3B-Parameter Policy-Adaptive Safety Classifier, freigegeben von Mistral AI (Frankreich) unter Apache 2.0 als Open Weights, für On-Device-Content-Moderation. Mistral AI ist ein reales Unternehmen, daher keine Kontrollgesellschaft-freie Projekt trotz Open License.
- Souveränitäts-Score 92 von 100TaoQ AINiederlande · Selbst hosten / Open SourceAngewendete KI-Forschungs- und Engineeringfirma, spezialisiert auf KI-Sicherheit, Agent-Red-Teaming und EU-AI-Act-Konformität mit Open-Source-Sicherheits-Test-Frameworks für intelligente Systeme
- Souveränitäts-Score 82 von 100GiskardFrankreich · EU-souveränFranzösische Open-Source-Plattform für KI-Testing, Red-Teaming und Guardrails.
- Souveränitäts-Score 69 von 100Adversarial Robustness ToolboxVereinigte Staaten · Selbst hosten / Open SourceOpen-Source-Python-Bibliothek (MIT) für die Sicherheit von maschinellem Lernen: Angriffe und Abwehr gegen Evasion, Poisoning, Extraction und Inference; bei LF AI & Data.
- Souveränitäts-Score 69 von 100Garak (NVIDIA)Vereinigte Staaten · Selbst hosten / Open SourceOpen-Source-LLM-Anfälligkeits-Scanner von NVIDIA's AI Red Team, der nach Halluzinationen, Datenlecks, Prompt-Injection und Jailbreaks über 50+ Probe-Module sucht. Von NVIDIA kontrolliert, kein Community-gesteuertes Projekt.
- Souveränitäts-Score 69 von 100Langkit (WhyLabs)Vereinigte Staaten · Selbst hosten / Open Source · Eigentümer in Vereinigte StaatenLangKit ist WhyLabs' Open-Source-Toolkit zur Überwachung von LLMs, das Signale wie Toxizität, PII, Stimmung und Jailbreak-Erkennung aus Prompts und Antworten extrahiert; WhyLabs hat die kommerzielle Plattform eingestellt, LangKit bleibt jedoch Open Source verfügbar.
- Souveränitäts-Score 69 von 100LLM Guard (Protect AI)Vereinigte Staaten · Selbst hosten / Open Source · Eigentümer in Vereinigte StaatenLLM Guard ist ein Open-Source-Sicherheits-Toolkit von Protect AI (jetzt Teil von Palo Alto Networks) mit Input-/Output-Scannern gegen Prompt-Injection, Datenlecks und schädliche Sprache in LLM-Anwendungen.
- Souveränitäts-Score 69 von 100NVIDIA NeMo GuardrailsVereinigte Staaten · Selbst hosten / Open SourceOpen-Source-Toolkit von NVIDIA für das Hinzufügen von programmierbaren Schutzmechanismen zu LLM-Gesprächssystemen, mit Unterstützung für selbst-gehostete Bereitstellungen. Von NVIDIA kontrolliert, nicht ein von der Community verwaltetes Projekt.
- Souveränitäts-Score 69 von 100Portkey AIVereinigte Staaten · Selbst hosten / Open Source · Eigentümer in Vereinigte StaatenPortkey AI (San Francisco, USA; 2026 von Palo Alto Networks für Prisma AIRS übernommen) ist ein Open-Source-KI-Gateway mit über 60 Guardrails gegen Jailbreaks, Prompt-Injection und PII-Lecks.
- Souveränitäts-Score 69 von 100Presidio (Microsoft)Vereinigte Staaten · Selbst hosten / Open Source · Eigentümer in Vereinigte StaatenPresidio ist Microsofts Open-Source-Framework zur Erkennung, Schwärzung und Anonymisierung personenbezogener Daten (PII) in Text, Bildern und strukturierten Daten, häufig genutzt zur Vermeidung von PII-Lecks in LLM-Pipelines.
- Souveränitäts-Score 69 von 100Project AsagoVereinigte Staaten · Selbst hosten / Open SourceRed Hat-initiiertes Open-Source-Projekt (August 2026, Apache 2.0) übersetzt NIST AI RMF, OWASP LLM Top 10 und EU AI Act-Anforderungen in technische Governance-Controls für KI-Agenten; Teilnehmer sind Red Hat, NVIDIA, IBM Research, MIT Lincoln Laboratory, Microsoft und das Alan Turing Institute — keine einzelne kontrollierende Partei.
- Souveränitäts-Score 69 von 100VigilVereinigte Staaten · Selbst hosten / Open SourceVigil ist eine Open-Source-Python-Bibliothek und REST-API (von Forscher deadbits/Adam Swanda), die LLM-Prompts und -Antworten auf Prompt-Injection, Jailbreaks und Prompt-Leaks scannt; experimenteller Alpha-Status mit begrenzter aktiver Pflege.
- Souveränitäts-Score 57 von 100DeepchecksIsrael · Nicht-EU-AnbieterOpen-Source-ML-Validierungsplattform von israelischer Deepchecks (Tel Aviv) mit umfassendem Datentesting und Model-Testing von der Forschung bis zur Produktion.
- Souveränitäts-Score 49 von 100AktoVereinigte Staaten · Nicht-EU-AnbieterUS-amerikanische KI-Agent-Sicherheitsplattform: Erkennung, Testing, Red-Teaming, Posture-Management und Guardrails für KI-Agenten und APIs.
- Souveränitäts-Score 49 von 100Evidently AIVereinigte Staaten · Nicht-EU-AnbieterOpen-Source-ML- und LLM-Observability-Framework für Evaluierung, Testen und Monitoring von KI-Systemen und Daten-Pipelines mit 100+ eingebauten Metriken; unterstützt von einem echten Unternehmen, nicht einem kontrollunternehmen-freien Projekt.
- Souveränitäts-Score 49 von 100Guardrails AIVereinigte Staaten · Nicht-EU-AnbieterOpen-Source-Python-Framework zur Validierung und Strukturierung von LLM-Ausgaben mit 50+ vordefinierten Validatoren und einem optionalen verwalteten Service mit Observability-Dashboards.
- Souveränitäts-Score 49 von 100PromptfooVereinigte Staaten · Nicht-EU-AnbieterOpen-Source MIT-lizenziertes LLM-Bewertungs- und Red-Teaming-Framework zum Testen von Prompts, Modellen und RAG-Pipelines, unterstützt durch ein echtes VC-finanziertes Unternehmen.
- Souveränitäts-Score 49 von 100PyRIT (Microsoft)Vereinigte Staaten · Nicht-EU-AnbieterOpen-Source Python Risk Identification Tool von Microsoft zur Durchführung von Red-Team-Übungen, um proaktiv Risiken in generativen KI-Systemen mit Multi-Modal-Angriffsunterstützung zu identifizieren. Kontrolliert von Microsoft, nicht ein von der Gemeinschaft verwaltetes Projekt.
Bewerten Sie Ihren eigenen Stack im Assessment
Stack bewerten →