← Templates · Dev Tools
LO
LocalAI
CommunityOpen-source, OpenAI API-compatible drop-in replacement for running LLM, image, and audio models locally, with or without a GPU.
LocalAI deployen Free-Tarif, keine Karte.
Was du bekommst
- Läuft vom offiziellen Image localai/localai:v4.11.0
- Ein Community-Template, noch nicht end-to-end vom Railyard-Team verifiziert
- Automatisches HTTPS und Zero-Downtime-Deploys
So deployst du LocalAI
- 1
Einen Server verbinden
Verbinde einen DigitalOcean-, Hetzner- oder Vultr-Server mit Railyard, oder jede Linux-Box per SSH.
- 2
Auf "LocalAI deployen" klicken
Railyard baut den Container.
- 3
Deine Domain einrichten
Richte deine Domain auf die App. Railyard stellt ein HTTPS-Zertifikat aus und erneuert es automatisch.
Warum auf Railyard deployen
Railyard betreibt sie eigenständig auf einem Server, den du schon bezahlst — keine Add-ons bereitzustellen, Zero-Downtime-Deploys und Skalierung trotzdem inklusive.
LocalAI zu deployen ist nur ein Teil eines größeren Stacks, den du weiter ausbauen kannst — füge eine Datenbank, einen Worker, einen Cache oder eine weitere App hinzu, alles auf denselben Servern, die du schon bezahlst.
Gut für
- A drop-in OpenAI-compatible API for text, image and audio models on CPU-only hardware
- Self-hosted inference without depending on any single vendor's runtime (bundles llama.cpp, whisper.cpp, and more under one API)
- Air-gapped or offline model serving
Gut zu wissen
- Ships with no models preloaded — install one from a model gallery or mount your own GGUF files into the models volume after deploy
- This is the default CPU build; GPU acceleration needs the matching -cuda/-vulkan image variant instead
Häufig gestellte Fragen
Was kostet es, LocalAI selbst zu hosten?
Free deckt 1 Server plus einen Datenbankserver und 3 Apps ab, keine Karte nötig. Pro kostet $19/Monat pro Team für bis zu 5 Server und unbegrenzte Apps. Team kostet $49/Monat pro Team für unbegrenzte Server. Du zahlst deinen Cloud-Anbieter direkt für den Server; Railyard berechnet keinen Aufschlag auf Compute.
Was brauche ich, um LocalAI selbst zu hosten?
Einen Server von einem Anbieter wie DigitalOcean, Hetzner oder Vultr. LocalAI läuft eigenständig, ohne etwas weiter bereitzustellen, mit eingerichtetem HTTPS und deiner Domain.
Wie deploye ich LocalAI auf meinem eigenen Server?
Verbinde einen Server mit Railyard, klicke auf "LocalAI deployen" und richte deine Domain ein. Railyard baut den Container, verdrahtet die benötigten Services und stellt automatisch ein HTTPS-Zertifikat aus.
Kann ich meine eigene Domain mit LocalAI nutzen?
Ja. Richte einen DNS-Eintrag auf deinen Server und Railyard stellt automatisch ein HTTPS-Zertifikat aus und erneuert es.
Ähnliche Templates
LS LibreDB Studio A universal database GUI in your browser — Postgres, MySQL, Oracle, MongoDB, Redis, SQLite, DuckDB and more, MIT licensed. AC Ackee Open-source, privacy-focused analytics tool built on Node.js. AN Answer Open-source Q&A community platform — build a support forum for your product. AA Apache Airflow Platform to programmatically author, schedule, and monitor data workflows.