PrototypeCommune
shtjww/llm-inference-capacity-handbook
大模型推理案头手册(开源版):给定 GPU 算力,一个模型能扛多少 QPS?三层模型 × 三面墙 × 排队论 × 开环压测
- Propriétaire
- shtjww (compte personnel)
- Étoiles
- Étoiles : 185
- Forks
- Forks : 0
- Langage
- Sans langage
- Licence
- Aucune
- Création
- 2026
- Sujets
- capacity-planninggpullm-inferencellmopsqueueing-theoryvllm
- Rang
- Prototype (100 à 249 ★) Ce que veut dire ce rang