PrototypeCommune
llm-d/llm-d-inference-sim
A lightweight, configurable, and real-time simulator designed to mimic the behavior of vLLM without the need for GPUs or running actual heavy models.
- Propriétaire
- llm-d (organisation)
- Étoiles
- Étoiles : 227
- Forks
- Forks : 180
- Langage
- Go
- Licence
- Apache-2.0
- Création
- 2025
- Sujets
- incubating
- Rang
- Prototype (100 à 249 ★) Ce que veut dire ce rang
Autres dépôts de llm-d
Les 4 dépôts de llm-d- llm-d/llm-dÉtoiles : 5 122PythonStable
- llm-d/llm-d-routerÉtoiles : 441GoAlpha
- llm-d/llm-d-kv-cacheÉtoiles : 188GoPrototype
D’autres dépôts Go
Tous les dépôts Go- steipete/tmuxwatchÉtoiles : 227GoPrototype
- Ground-Zerro/PhobosÉtoiles : 227GoPrototype
- fy0/CodeKanbanÉtoiles : 227GoPrototype
- lesfurets/git-octopusÉtoiles : 227GoPrototype
- AlekSi/pointerÉtoiles : 227GoPrototype
- wicast/xj2sÉtoiles : 227GoPrototype