Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
PrototypeCommune

86MaxCao/nano-vllm-prefillonly

A specialized optimization of nano-vllm for prefill-only inference tasks, designed for industrial-scale discriminative applications with multimodal large language models

Propriétaire
86MaxCao (compte personnel)
Étoiles
Étoiles : 120
Forks
Forks : 0
Langage
Python
Licence
MIT
Création
2026
Rang
Prototype (100 à 249 ★) Ce que veut dire ce rang
Voir sur GitHub

D’autres dépôts Python

Tous les dépôts Python