Ollama is een open-sourcetool om open modellen op de eigen machine te draaien. U installeert het op macOS, Windows of Linux, of gebruikt de officiële Docker-image, en haalt modellen uit de bibliotheek, zoals gpt-oss, Qwen, Gemma en DeepSeek. Ollama biedt een lokale REST-API en client-bibliotheken voor Python en JavaScript, zodat applicaties en ontwikkeltools er direct mee kunnen werken. Daarnaast bestaat een optionele clouddienst waarin modellen op de servers van Ollama draaien.
Ollama wordt gemaakt door Ollama Inc. in San Francisco in de Verenigde Staten en valt onder de MIT-licentie. Draait u modellen lokaal, dan blijven prompts en antwoorden op uw eigen infrastructuur. Voor de cloudmodellen geldt dat anders: Ollama host die volgens eigen zeggen vooral in de VS en kan bij drukte verzoeken ook naar Europa en Singapore routeren. Prompt- en antwoordgegevens worden volgens Ollama niet gelogd of voor training gebruikt. Een Europese organisatie die gegevens in eigen beheer wil houden, kiest dus voor lokaal gebruik.