AlphaPeu commune
FMInference/H2O
[NeurIPS'23] H2O: Heavy-Hitter Oracle for Efficient Generative Inference of Large Language Models.
- Propriétaire
- FMInference (organisation)
- Étoiles
- Étoiles : 537
- Forks
- Forks : 91
- Langage
- Python
- Licence
- Aucune
- Création
- 2023
- Sujets
- gpt-3heavy-hittershigh-throughputkv-cachelarge-language-modelssparsity
- Rang
- Alpha (250 à 699 ★) Ce que veut dire ce rang
Autres dépôts de FMInference
Les 3 dépôts de FMInference- FMInference/FlexLLMGenÉtoiles : 9 343PythonStable
- FMInference/DejaVuÉtoiles : 363PythonAlpha
D’autres dépôts Python
Tous les dépôts Python- Anttwo/MILoÉtoiles : 537PythonAlpha
- ARCANGEL0/MitsuÉtoiles : 537PythonAlpha
- lasselian/prism-desktopÉtoiles : 537PythonAlpha
- Pymol-Scripts/Pymol-script-repoÉtoiles : 537PythonAlpha
- Valloric/MatchTagAlwaysÉtoiles : 537PythonAlpha
- benhoyt/scandirÉtoiles : 537PythonAlpha