TextAttack is een Python-framework voor adversarial attacks, data-augmentatie en het trainen van modellen voor natuurlijke taalverwerking. Beveiligings- en machine-learningteams gebruiken het om te testen hoe tekstclassificaties en andere NLP-modellen reageren op opzettelijk aangepaste invoer, om extra trainingsdata te genereren en om modellen te trainen met adversarial voorbeelden. Het is een bibliotheek die u met pip installeert en lokaal of in uw eigen pipelines draait. Er is geen door de leverancier gehoste dienst en de code is uitgebracht onder de MIT-licentie.
Het project wordt onderhouden door het QData Lab van de University of Virginia in de Verenigde Staten en staat op GitHub. Omdat het in uw eigen omgeving draait, worden de modellen en teksten die u test niet naar de beheerders gestuurd en is er geen hostingregio van toepassing. De beheerders zijn een academische onderzoeksgroep en geen bedrijf, dus er is geen commercieel supportcontract of servicelevelovereenkomst. Voor een Europese organisatie is het een zelf te hosten onderdeel voor robuustheidstests van NLP-systemen, vergelijkbaar in doel met commerciële adversarial-testtools die als clouddienst worden aangeboden.