Willow Inference Server
Open Source Apache-2.0Open source, local, and self-hosted highly optimized language inference server supporting ASR/STT, TTS,…
Schwierigkeit
●● Mittel Letzte Prüfung
2026-02-12 Beschreibung
Open source, local, and self-hosted highly optimized language inference server supporting ASR/STT, TTS, and LLM across WebRTC, REST, and WS
Vorschau
Plattformen
Linux Docker
Ersetzt folgende proprietäre Tools
ChatGPT API → Willow Inference Server
Midjourney → Willow Inference Server
DALL-E → Willow Inference Server
Selbst hosten
Willow Inference Server kann auf eigener Infrastruktur betrieben werden. Besuche die offizielle Dokumentation für eine Installationsanleitung.
Zur Dokumentation →Kategorien
Tags
#cuda
#deep-learning
#llama
#llm
#privacy
#speech-recognition
#speech-to-text
Ähnliche Tools
Ollama
Große Sprachmodelle lokal und unkompliziert ausführen
105.0k
↳ ChatGPT Midjourney +1
MIT ● Einfach
LocalAI
Lokale OpenAI-kompatible API für verschiedene KI-Modelle
26.0k
↳ ChatGPT Midjourney +1
MIT ●● Mittel
Stable Diffusion WebUI
Leistungsstarke Benutzeroberfläche für KI-Bildgenerierung
145.0k
↳ ChatGPT Midjourney +1
AGPL-3.0 ●● Mittel