# azrtydxb/Fastllm-proxy

<https://repo.masters-masters.com/repos/azrtydxb/Fastllm-proxy>

[Accueil](https://repo.masters-masters.com/) › [azrtydxb](https://repo.masters-masters.com/owners/azrtydxb) › [Fastllm-proxy](https://repo.masters-masters.com/repos/azrtydxb/Fastllm-proxy)

azrtydxb/Fastllm-proxy, dépôt open source à 108 étoiles sur GitHub. Carte Prototype de RepoMasters. The lowest-overhead LLM router. Production-ready, highly…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [azrtydxb](https://repo.masters-masters.com/owners/azrtydxb) |
| Étoiles | 108 |
| Forks | 92 |
| Langage | [Rust](https://repo.masters-masters.com/languages/rust) |
| Licence | Apache-2.0 |
| Création | 2026 |
| Sujets | ai-gateway, inference, litellm, llm, llm-gateway, load-balancing, observability, openai-api, rbac, reverse-proxy |
| Rang | [Prototype (100 à 249 ★)](https://repo.masters-masters.com/ranks/rush) |
| Voir sur GitHub | [azrtydxb/Fastllm-proxy](https://github.com/azrtydxb/Fastllm-proxy) |

## Fiche du dépôt

The lowest-overhead LLM router. Production-ready, highly available, one OpenAI-compatible endpoint in front of 80 providers and your own vLLM/SGLang — 0.76 µs per request, no I/O on the request path, cache-affinity routing, RBAC, budgets and a 13-screen UI in the binary.

Rang des dépôts qui ont 100 à 249 ★ sur GitHub. Probabilité publiée par carte tirée : 70 %. Rareté : Commune.

## Autres dépôts de azrtydxb

- [azrtydxb/procoder · ★ 210 · Go · Prototype](https://repo.masters-masters.com/repos/azrtydxb/procoder)

## D’autres dépôts Rust

- [2youg1/sprawling-agents · ★ 108 · Rust · Prototype](https://repo.masters-masters.com/repos/2youg1/sprawling-agents)
- [ProjectTesca/MenSharp · ★ 108 · Rust · Prototype](https://repo.masters-masters.com/repos/ProjectTesca/MenSharp)
- [zhidian-cmd/gitport-github · ★ 108 · Rust · Prototype](https://repo.masters-masters.com/repos/zhidian-cmd/gitport-github)
- [ruuda/robigo-luculenta · ★ 108 · Rust · Prototype](https://repo.masters-masters.com/repos/ruuda/robigo-luculenta)
- [deprecrated/net2-rs · ★ 108 · Rust · Prototype](https://repo.masters-masters.com/repos/deprecrated/net2-rs)
- [matzipan/envoyer · ★ 108 · Rust · Prototype](https://repo.masters-masters.com/repos/matzipan/envoyer)

---
Données : GitHub · Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage.