AlphaPeu commune
jy-yuan/KIVI
[ICML 2024] KIVI: A Tuning-Free Asymmetric 2bit Quantization for KV Cache
- Propriétaire
- jy-yuan (compte personnel)
- Étoiles
- Étoiles : 438
- Forks
- Forks : 57
- Langage
- Python
- Licence
- MIT
- Création
- 2024
- Sujets
- inferencelarge-language-modelsllamallmnatural-language-processingquantizationtransformer
- Rang
- Alpha (250 à 699 ★) Ce que veut dire ce rang
D’autres dépôts Python
Tous les dépôts Python- blessonism/search-skillsÉtoiles : 438PythonAlpha
- OnlyTerp/UltraCode-ShimÉtoiles : 438PythonAlpha
- unmev/douyin-auto-fireÉtoiles : 438PythonAlpha
- furious-luke/django-addressÉtoiles : 438PythonAlpha
- jvantuyl/sublime_diagram_pluginÉtoiles : 438PythonAlpha
- emanuele/kaggle_pbrÉtoiles : 438PythonAlpha