BêtaRare
weicj/vLLM-2080Ti-Definitive
The definitive vLLM runtime for dual RTX 2080 Ti 22GB + NVLink, delivering Qwen 27B local inference with maximum 200+ tok/s single-request decode with support of FP8 weight ( Join Discord :https://discord.gg/VFqVVySdMS )
- Propriétaire
- weicj (compte personnel)
- Étoiles
- Étoiles : 1 196
- Forks
- Forks : 166
- Langage
- Python
- Licence
- Apache-2.0
- Création
- 2026
- Rang
- Bêta (700 à 1 999 ★) Ce que veut dire ce rang
D’autres dépôts Python
Tous les dépôts Python- alichtman/strongholdÉtoiles : 1 196PythonBêta
- huggingface/hmtlÉtoiles : 1 196PythonBêta
- autonomousvision/stylegan-tÉtoiles : 1 196PythonBêta