Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
AlphaPeu commune

amitshekhariitbhu/llm-inference-engineering

Learn LLM Inference Engineering step by step - from KV cache, PagedAttention, and continuous batching to vLLM, SGLang, and GPUs.

Propriétaire
amitshekhariitbhu (compte personnel)
Étoiles
Étoiles : 396
Forks
Forks : 50
Langage
Markdown
Licence
Apache-2.0
Création
2026
Sujets
inference-optimizationllmllm-engineeringllm-inferencellmsinference-engineeringlarge-language-models
Rang
Alpha (250 à 699 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de amitshekhariitbhu

Les 39 dépôts de amitshekhariitbhu

D’autres dépôts Markdown

Tous les dépôts Markdown