PrototypeCommune
peva3/SmarterRouter
SmarterRouter: An intelligent LLM gateway and VRAM-aware router for Ollama, llama.cpp, and OpenAI. Features semantic caching, model profiling, and automatic failover for local AI labs.
- Propriétaire
- peva3 (compte personnel)
- Étoiles
- Étoiles : 155
- Forks
- Forks : 19
- Langage
- Python
- Licence
- MIT
- Création
- 2026
- Sujets
- ai-gatewaydockerfastapigpu-monitoringllmllm-proxyllm-routerlocal-llmmodel-servingollama
- Rang
- Prototype (100 à 249 ★) Ce que veut dire ce rang
Autres dépôts de peva3
Les 2 dépôts de peva3- peva3/EmulsionPresetsÉtoiles : 124Prototype
D’autres dépôts Python
Tous les dépôts Python- headmaster247/mcvalue-mateÉtoiles : 155PythonPrototype
- xkx121029/mcd-vibe-commitÉtoiles : 155PythonPrototype
- aa1143/NamiGPTÉtoiles : 155PythonPrototype
- ramusus/kinopoiskpyÉtoiles : 155PythonPrototype
- Jonty/IdiocyÉtoiles : 155PythonPrototype
- CartoDB/carto-pythonÉtoiles : 155PythonPrototype