Willow Inference Server
Open SourceApache-2.0Open source, local, and self-hosted highly optimized language inference server supporting ASR/STT, TTS,…
Schwierigkeit
●● MittelLetzte Prüfung
2026-02-12Beschreibung
Open source, local, and self-hosted highly optimized language inference server supporting ASR/STT, TTS, and LLM across WebRTC, REST, and WS
Vorschau
Plattformen
LinuxDocker
Ersetzt folgende proprietäre Tools
ChatGPT API→Willow Inference Server
Midjourney→Willow Inference Server
DALL-E→Willow Inference Server
Selbst hosten
Willow Inference Server kann auf eigener Infrastruktur betrieben werden. Besuche die offizielle Dokumentation für eine Installationsanleitung.
Zur Dokumentation →Kategorien
Tags
#cuda#deep-learning#llama#llm#privacy#speech-recognition#speech-to-text
Ähnliche Tools
AI Dictation
Quelloffene Spracheingabe für Desktop und Mobilgeräte
↳SuperwhisperWispr Flow+1
MIT● Einfach
Okt 2026
Ollama
Große Sprachmodelle lokal und unkompliziert ausführen
105.0k
↳ChatGPTMidjourney+1
MIT● Einfach
Okt 2026
L
LocalAI
Lokale OpenAI-kompatible API für verschiedene KI-Modelle
26.0k
↳ChatGPTMidjourney+1
MIT●● Mittel
Okt 2026