Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
PrototypeCommune

peva3/SmarterRouter

SmarterRouter: An intelligent LLM gateway and VRAM-aware router for Ollama, llama.cpp, and OpenAI. Features semantic caching, model profiling, and automatic failover for local AI labs.

Propriétaire
peva3 (compte personnel)
Étoiles
Étoiles : 155
Forks
Forks : 19
Langage
Python
Licence
MIT
Création
2026
Sujets
ai-gatewaydockerfastapigpu-monitoringllmllm-proxyllm-routerlocal-llmmodel-servingollama
Rang
Prototype (100 à 249 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de peva3

Les 2 dépôts de peva3

D’autres dépôts Python

Tous les dépôts Python