← Modèles · Outils de développement
LO
LocalAI
CommunautéOpen-source, OpenAI API-compatible drop-in replacement for running LLM, image, and audio models locally, with or without a GPU.
| S'exécute | localai/localai:v4.11.0 |
|---|---|
| Pile technique | go |
| Provisionné pour l'application | Rien, l'application est autonome |
| Vérifié | Pas encore |
Pourquoi déployer sur Railyard
Railyard la fait tourner seule sur un serveur que vous payez déjà — aucun addon à provisionner, avec les déploiements sans interruption et la mise à l'échelle toujours inclus.
Déployer LocalAI n'est qu'un élément d'une pile applicative que vous pouvez continuer à faire grandir — ajoutez une base de données, un worker, un cache ou une autre application, toujours sur les mêmes serveurs que vous payez déjà.
Idéal pour
- A drop-in OpenAI-compatible API for text, image and audio models on CPU-only hardware
- Self-hosted inference without depending on any single vendor's runtime (bundles llama.cpp, whisper.cpp, and more under one API)
- Air-gapped or offline model serving
Bon à savoir
- Ships with no models preloaded — install one from a model gallery or mount your own GGUF files into the models volume after deploy
- This is the default CPU build; GPU acceleration needs the matching -cuda/-vulkan image variant instead