Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
PrototypeCommune

snu-mllab/KVzip

[NeurIPS'25 Oral] Query-agnostic KV cache eviction: 3–4× reduction in memory and 2× decrease in latency (Qwen3/2.5, Gemma3, LLaMA3)

Propriétaire
snu-mllab (organisation)
Étoiles
Étoiles : 228
Forks
Forks : 15
Langage
Python
Licence
MIT
Création
2025
Sujets
kv-cache-compressionlarge-language-models
Rang
Prototype (100 à 249 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de snu-mllab

Les 4 dépôts de snu-mllab

D’autres dépôts Python

Tous les dépôts Python