# local-inference-lab/llm-inference-bench

<https://repo.masters-masters.com/repos/local-inference-lab/llm-inference-bench>

[Accueil](https://repo.masters-masters.com/) › [local-inference-lab](https://repo.masters-masters.com/owners/local-inference-lab) › [llm-inference-bench](https://repo.masters-masters.com/repos/local-inference-lab/llm-inference-bench)

local-inference-lab/llm-inference-bench, dépôt open source à 122 étoiles sur GitHub. Carte Prototype de RepoMasters. LLM inference decode throughput benchmark…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [local-inference-lab](https://repo.masters-masters.com/owners/local-inference-lab) |
| Étoiles | 122 |
| Forks | 23 |
| Langage | [Python](https://repo.masters-masters.com/languages/python) |
| Licence | Aucune |
| Création | 2026 |
| Rang | [Prototype (100 à 249 ★)](https://repo.masters-masters.com/ranks/rush) |
| Voir sur GitHub | [local-inference-lab/llm-inference-bench](https://github.com/local-inference-lab/llm-inference-bench) |

## Fiche du dépôt

LLM inference decode throughput benchmark with Rich TUI dashboard. Measures token generation speed across concurrency levels and context lengths. Supports SGLang and vLLM engines.

Rang des dépôts qui ont 100 à 249 ★ sur GitHub. Probabilité publiée par carte tirée : 70 %. Rareté : Commune.

## Autres dépôts de local-inference-lab

- [local-inference-lab/rtx6kpro · ★ 1 170 · Python · Bêta](https://repo.masters-masters.com/repos/local-inference-lab/rtx6kpro)
- [local-inference-lab/b12x · ★ 269 · Python · Alpha](https://repo.masters-masters.com/repos/local-inference-lab/b12x)

## D’autres dépôts Python

- [CRFXN5C/mcd-mcp-kit · ★ 122 · Python · Prototype](https://repo.masters-masters.com/repos/CRFXN5C/mcd-mcp-kit)
- [aarsaputra/php2shell · ★ 122 · Python · Prototype](https://repo.masters-masters.com/repos/aarsaputra/php2shell)
- [lillyguisnet/sam3-segmentation · ★ 122 · Python · Prototype](https://repo.masters-masters.com/repos/lillyguisnet/sam3-segmentation)
- [svetlyak40wt/django-fields · ★ 122 · Python · Prototype](https://repo.masters-masters.com/repos/svetlyak40wt/django-fields)
- [metajack/notify-webhook · ★ 122 · Python · Prototype](https://repo.masters-masters.com/repos/metajack/notify-webhook)
- [bmander/graphserver · ★ 122 · Python · Prototype](https://repo.masters-masters.com/repos/bmander/graphserver)

---
Données : GitHub · Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage.