Ollama

Communauté

Run large language models locally — pull and serve open models like Llama, Qwen, and Gemma through a simple REST API.

S'exécute	ollama/ollama:0.40.5
Pile technique	go
Provisionné pour l'application	Rien, l'application est autonome
Vérifié	Pas encore

Pourquoi déployer sur Railyard

Railyard la fait tourner seule sur un serveur que vous payez déjà — aucun addon à provisionner, avec les déploiements sans interruption et la mise à l'échelle toujours inclus.

Déployer Ollama n'est qu'un élément d'une pile applicative que vous pouvez continuer à faire grandir — ajoutez une base de données, un worker, un cache ou une autre application, toujours sur les mêmes serveurs que vous payez déjà.

Idéal pour

Self-hosted LLM inference for Open WebUI, Langflow, or a custom app
Running open models like Llama and Qwen without sending data to a third-party API
A local OpenAI-compatible endpoint for development

Bon à savoir

No GPU is attached automatically — CPU-only inference works but is slow for larger models
Nothing is bundled by default — pull a model after deploy, e.g. `ollama pull llama3.2`

Documentation du projet ↗