Ollama est un outil open source pour exécuter des modèles ouverts sur votre propre machine. Vous l'installez sous macOS, Windows ou Linux, ou utilisez l'image Docker officielle, et récupérez des modèles dans sa bibliothèque, comme gpt-oss, Qwen, Gemma et DeepSeek. Ollama fournit une API REST locale et des bibliothèques clientes pour Python et JavaScript, que les applications et outils de développement utilisent directement. Un service cloud facultatif, où les modèles tournent sur les serveurs d'Ollama, existe aussi.
Ollama est édité par Ollama Inc., à San Francisco, aux États-Unis, sous licence MIT. En exécution locale, prompts et réponses restent sur votre infrastructure. Il en va autrement des modèles cloud : Ollama indique les héberger principalement aux États-Unis et pouvoir router des requêtes vers l'Europe et Singapour en cas de forte demande. Selon Ollama, les données de prompts et de réponses ne sont ni journalisées ni utilisées pour l'entraînement. Une organisation européenne qui veut garder la maîtrise de ses données privilégiera donc l'usage local.