Vast.ai est une place de marché de cloud GPU. Les utilisateurs louent de la puissance GPU via le site, une API, un outil en ligne de commande (CLI) ou un SDK Python, et les fournisseurs peuvent proposer leurs propres GPU. Les machines viennent de tiers : certaines de centres de données, d'autres d'hôtes individuels. Selon la documentation, les locataires s'exécutent dans des conteneurs Docker non privilégiés et isolés, et un filtre « Secure Cloud » limite la recherche à des centres de données contrôlés, certifiés ISO 27001.
Selon son communiqué, Vast.ai Inc. a son siège à Los Angeles, aux États-Unis, et le site y est hébergé. La politique de confidentialité comporte un addendum RGPD et indique que des données peuvent être traitées aux États-Unis, notamment sur la base de clauses contractuelles types. La documentation ne précise pas dans quels pays se trouvent les machines louées. Les organisations européennes qui traitent des données personnelles sur la plateforme doivent donc vérifier, pour chaque fournisseur, où vont les données.