AlphaPeu commune
smg-project/smg
Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant au…
- Propriétaire
- smg-project (organisation)
- Étoiles
- Étoiles : 698
- Forks
- Forks : 205
- Langage
- Rust
- Licence
- Apache-2.0
- Création
- 2025
- Sujets
- anthropicclaudegeminiinference-gatewayllmopenairoutingsglangvllmtensorrtllm
- Rang
- Alpha (250 à 699 ★) Ce que veut dire ce rang
D’autres dépôts Rust
Tous les dépôts Rust- kazetaos/kazetaÉtoiles : 699RustAlpha
- ChainSafe/forestÉtoiles : 698RustAlpha
- subconsciousnetwork/noosphereÉtoiles : 698RustAlpha
- tmandry/glideÉtoiles : 697RustAlpha
- makeecat/PengÉtoiles : 697RustAlpha