AI Verify ist ein quelloffenes Test-Framework samt Toolkit für KI-Governance, entwickelt von der AI Verify Foundation. Es prüft KI-Systeme anhand international anerkannter Grundsätze für vertrauenswürdige KI und hält die Ergebnisse in Berichten fest. Project Moonshot, vom selben Träger, ist ein modulares Werkzeug zur Bewertung und zum Red-Teaming großer Sprachmodelle und LLM-basierter Anwendungen; das Projekt selbst bezeichnet Moonshot als Beta. Beide sind Python-Software unter der Apache-2.0-Lizenz und laufen auf Ihrer eigenen Infrastruktur. Sie richten sich an Organisationen, die KI-Systeme vor dem Produktivbetrieb testen und dokumentieren möchten, als Alternative zu kommerziellen Plattformen für KI-Red-Teaming und KI-Assurance.
Die AI Verify Foundation ist eine in Singapur ansässige Non-Profit-Gesellschaft, die vollständig der Infocommunications Media Development Authority (IMDA) Singapurs gehört. Das Projekt liegt damit außerhalb der EU- und US-Rechtsordnung. Da die Werkzeuge lokal laufen, bleiben Testdaten und Modellausgaben in Ihrer eigenen Umgebung; einen Cloud-Dienst betreibt die Stiftung dafür nicht. Die Apache-2.0-Lizenz erlaubt Einsicht, Anpassung und interne Nutzung ohne Anbieterbeziehung.