PrototypeCommune
snu-comparch/InfiniGen
InfiniGen: Efficient Generative Inference of Large Language Models with Dynamic KV Cache Management (OSDI'24)
- Propriétaire
- snu-comparch (organisation)
- Étoiles
- Étoiles : 195
- Forks
- Forks : 40
- Langage
- Python
- Licence
- Apache-2.0
- Création
- 2024
- Rang
- Prototype (100 à 249 ★) Ce que veut dire ce rang
D’autres dépôts Python
Tous les dépôts Python- JikoSchnee/delta-harmonica-macroÉtoiles : 195PythonPrototype
- NVlabs/Skill2EnvÉtoiles : 195PythonPrototype
- beckettharriman/openfillÉtoiles : 195PythonPrototype
- guilhermechapiewski/simple-db-migrateÉtoiles : 195PythonPrototype
- gak/pygooglechartÉtoiles : 195PythonPrototype
- saymedia/remoteobjectsÉtoiles : 195PythonPrototype