Gray Swan AI ist ein Unternehmen für KI-Sicherheit, das Modelle und KI-Agenten auf Schwachstellen und Missbrauch testet. Die Produkte sind Shade, ein automatisiertes Werkzeug für Adversarial Testing, und Cygnal, eine Laufzeitlösung, die schädliche Eingaben und unsichere Agentenausgaben klassifiziert und blockiert. Außerdem betreibt das Unternehmen Arena, ein Red-Teaming-Netzwerk, und bietet adversarielle Evaluierungen und Red-Teaming-Aufträge für Modellentwickler und für Organisationen, die KI einsetzen. Die Leistungen werden als SaaS und als projektbezogene Dienstleistung erbracht.
Das Unternehmen heißt Gray Swan Security, Inc., hat seinen Sitz in Pittsburgh (USA) und ist eine Ausgründung der Carnegie Mellon University. Es unterliegt damit US-Recht, einschließlich des CLOUD Act. Die Datenschutzerklärung enthält keine DSGVO-Zusage und nennt weder eine Hosting-Region noch einen Auftragsverarbeitungsvertrag; das Trust Center führt SOC 2 Type 2 und Cyber Essentials auf. Wo Kundendaten gehostet werden, ist öffentlich nicht angegeben. Europäische Organisationen, die Testdaten oder Modellverhalten teilen, sollten dies vorab vertraglich bestätigen lassen.