TextAttack est un framework Python pour les attaques adverses, l'augmentation de données et l'entraînement de modèles de traitement du langage naturel. Les équipes de sécurité et de machine learning l'utilisent pour tester le comportement de classifieurs de texte face à des entrées délibérément modifiées, générer des données d'entraînement supplémentaires et entraîner des modèles sur des exemples adverses. C'est une bibliothèque installée avec pip et exécutée en local ou dans vos pipelines. Il n'existe pas de service hébergé ; le code est sous licence MIT.
Le projet est maintenu par le QData Lab de l'University of Virginia, aux États-Unis, et publié sur GitHub. Comme il s'exécute chez vous, les modèles et textes testés ne sont pas transmis aux mainteneurs. Ceux-ci forment un groupe de recherche universitaire et non une entreprise : il n'y a ni contrat de support commercial ni accord de niveau de service. Pour une organisation européenne, c'est un composant auto-hébergé de test de robustesse des systèmes NLP, comparable par son objet à des outils commerciaux de tests adverses proposés en cloud.