PrototypeCommune
jpezzulli/sglang-rtxpro6000
Optimized SGLang runtime for Qwen3.8-27B FP8 with DFlash2 and Qwen3.8 Flash-Next NVFP4 with FR-Spec on one NVIDIA RTX PRO 6000 Blackwell 96 GB GPU (SM120): 524K context, HiCache and NIXL.
- Propriétaire
- jpezzulli (compte personnel)
- Étoiles
- Étoiles : 189
- Forks
- Forks : 27
- Langage
- Python
- Licence
- Apache-2.0
- Création
- 2026
- Sujets
- blackwelldflash2fp8hicachellm-inferencelocal-llmlong-contextnixlnvfp4qwen
- Rang
- Prototype (100 à 249 ★) Ce que veut dire ce rang
D’autres dépôts Python
Tous les dépôts Python- mubix/cyber-resume-reviewer-skillÉtoiles : 189PythonPrototype
- 255308153/CtxGuardÉtoiles : 189PythonPrototype
- yuatemycat/SuperGhidraÉtoiles : 189PythonPrototype
- marinho/geraldoÉtoiles : 189PythonPrototype
- facebookarchive/git-reviewÉtoiles : 189PythonPrototype
- mozilla/mozregressionÉtoiles : 189PythonPrototype