TextAttack ist ein Python-Framework für Adversarial Attacks, Datenaugmentation und das Training von Modellen in der Sprachverarbeitung (NLP). Sicherheits- und Machine-Learning-Teams nutzen es, um zu prüfen, wie sich Textklassifikatoren und andere NLP-Modelle bei gezielt veränderten Eingaben verhalten, um zusätzliche Trainingsdaten zu erzeugen und um Modelle mit Adversarial-Beispielen zu trainieren. Es ist eine Bibliothek, die Sie mit pip installieren und lokal oder in Ihren eigenen Pipelines ausführen. Einen vom Anbieter betriebenen Dienst gibt es nicht; der Code steht unter der MIT-Lizenz.
Das Projekt wird vom QData Lab der University of Virginia in den USA gepflegt und auf GitHub veröffentlicht. Da es in Ihrer eigenen Umgebung läuft, werden die getesteten Modelle und Texte nicht an die Maintainer übertragen; eine Hosting-Region entfällt. Die Maintainer sind eine akademische Forschungsgruppe und kein Unternehmen, daher gibt es keinen kommerziellen Supportvertrag und keine Service-Level-Vereinbarung. Für europäische Organisationen ist es eine selbst betriebene Komponente für Robustheitstests von NLP-Systemen, im Zweck vergleichbar mit kommerziellen Adversarial-Test-Werkzeugen, die als Cloud-Dienst angeboten werden.