← Templates · Dev Tools
OL

Ollama

Community

Run large language models locally — pull and serve open models like Llama, Qwen, and Gemma through a simple REST API.

Ollama deployen Free-Tarif, keine Karte.

Was du bekommst

  • Läuft vom offiziellen Image ollama/ollama:0.40.5
  • Ein Community-Template, noch nicht end-to-end vom Railyard-Team verifiziert
  • Automatisches HTTPS und Zero-Downtime-Deploys

So deployst du Ollama

  1. 1

    Einen Server verbinden

    Verbinde einen DigitalOcean-, Hetzner- oder Vultr-Server mit Railyard, oder jede Linux-Box per SSH.

  2. 2

    Auf "Ollama deployen" klicken

    Railyard baut den Container.

  3. 3

    Deine Domain einrichten

    Richte deine Domain auf die App. Railyard stellt ein HTTPS-Zertifikat aus und erneuert es automatisch.

Warum auf Railyard deployen

Railyard betreibt sie eigenständig auf einem Server, den du schon bezahlst — keine Add-ons bereitzustellen, Zero-Downtime-Deploys und Skalierung trotzdem inklusive.

Ollama zu deployen ist nur ein Teil eines größeren Stacks, den du weiter ausbauen kannst — füge eine Datenbank, einen Worker, einen Cache oder eine weitere App hinzu, alles auf denselben Servern, die du schon bezahlst.

Gut für

  • Self-hosted LLM inference for Open WebUI, Langflow, or a custom app
  • Running open models like Llama and Qwen without sending data to a third-party API
  • A local OpenAI-compatible endpoint for development

Gut zu wissen

  • No GPU is attached automatically — CPU-only inference works but is slow for larger models
  • Nothing is bundled by default — pull a model after deploy, e.g. `ollama pull llama3.2`

Projekt-Doku ↗

Häufig gestellte Fragen

Was kostet es, Ollama selbst zu hosten?
Free deckt 1 Server plus einen Datenbankserver und 3 Apps ab, keine Karte nötig. Pro kostet $19/Monat pro Team für bis zu 5 Server und unbegrenzte Apps. Team kostet $49/Monat pro Team für unbegrenzte Server. Du zahlst deinen Cloud-Anbieter direkt für den Server; Railyard berechnet keinen Aufschlag auf Compute.
Was brauche ich, um Ollama selbst zu hosten?
Einen Server von einem Anbieter wie DigitalOcean, Hetzner oder Vultr. Ollama läuft eigenständig, ohne etwas weiter bereitzustellen, mit eingerichtetem HTTPS und deiner Domain.
Wie deploye ich Ollama auf meinem eigenen Server?
Verbinde einen Server mit Railyard, klicke auf "Ollama deployen" und richte deine Domain ein. Railyard baut den Container, verdrahtet die benötigten Services und stellt automatisch ein HTTPS-Zertifikat aus.
Kann ich meine eigene Domain mit Ollama nutzen?
Ja. Richte einen DNS-Eintrag auf deinen Server und Railyard stellt automatisch ein HTTPS-Zertifikat aus und erneuert es.

Ähnliche Templates