Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
PrototypeCommune

HJCheng0602/nanoPD

A from-scratch Prefill/Decode disaggregation inference engine for LLMs

Propriétaire
HJCheng0602 (compte personnel)
Étoiles
Étoiles : 163
Forks
Forks : 27
Langage
Python
Licence
MIT
Création
2026
Sujets
decodeinferenceprefill
Rang
Prototype (100 à 249 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de HJCheng0602

Les 2 dépôts de HJCheng0602

D’autres dépôts Python

Tous les dépôts Python