Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
PrototypeCommune

shtjww/llm-inference-capacity-handbook

大模型推理案头手册(开源版):给定 GPU 算力,一个模型能扛多少 QPS?三层模型 × 三面墙 × 排队论 × 开环压测

Propriétaire
shtjww (compte personnel)
Étoiles
Étoiles : 185
Forks
Forks : 0
Langage
Sans langage
Licence
Aucune
Création
2026
Sujets
capacity-planninggpullm-inferencellmopsqueueing-theoryvllm
Rang
Prototype (100 à 249 ★) Ce que veut dire ce rang
Voir sur GitHub