AI Verify est un cadre et une boîte à outils open source pour tester la gouvernance de l'IA, développés par l'AI Verify Foundation. Il évalue les systèmes d'IA au regard de principes internationalement reconnus pour une IA de confiance et consigne les résultats. Project Moonshot, de la même fondation, est un outil modulaire d'évaluation et de red teaming des grands modèles de langage et des applications qui s'appuient sur eux ; le projet le présente comme bêta. Les deux sont des logiciels Python sous licence Apache 2.0, exécutés sur votre infrastructure. Ils servent à tester les systèmes d'IA avant leur mise en service, en alternative aux plateformes commerciales de red teaming et d'assurance de l'IA.
L'AI Verify Foundation est une société à but non lucratif établie à Singapour, détenue en totalité par l'Infocommunications Media Development Authority (IMDA). Le projet relève donc d'une juridiction hors UE et hors États-Unis. Les outils s'exécutant localement, données de test et sorties des modèles restent chez vous, sans service cloud de la fondation.