BêtaRare
0xSero/turboquant
TurboQuant: Near-optimal KV cache quantization for LLM inference (3-bit keys, 2-bit values) with Triton kernels + vLLM integration
- Propriétaire
- 0xSero (compte personnel)
- Étoiles
- Étoiles : 1 814
- Forks
- Forks : 199
- Langage
- Python
- Licence
- GPL-3.0
- Création
- 2026
- Rang
- Bêta (700 à 1 999 ★) Ce que veut dire ce rang
Autres dépôts de 0xSero
Les 14 dépôts de 0xSero- 0xSero/litterÉtoiles : 2 539RustRC
- 0xSero/parchiÉtoiles : 546TypeScriptAlpha
- 0xSero/orchestraÉtoiles : 281TypeScriptAlpha
- 0xSero/ascii-artÉtoiles : 247JavaScriptPrototype
- 0xSero/pi-brainÉtoiles : 184TypeScriptPrototype
- 0xSero/moe-compressÉtoiles : 183PythonPrototype
D’autres dépôts Python
Tous les dépôts Python- kohya-ss/sd-webui-additional-networksÉtoiles : 1 814PythonBêta
- triple-mu/YOLOv8-TensorRTÉtoiles : 1 814PythonBêta
- QVerisAI/QVerisFlowÉtoiles : 1 814PythonBêta
- erikwijmans/Pointnet2_PyTorchÉtoiles : 1 814PythonBêta
- google/compare_ganÉtoiles : 1 814PythonBêta
- josh0xA/darkdumpÉtoiles : 1 814PythonBêta