AlphaPeu commune
huawei-csl/KVarN
KVarN is a native vLLM KV-cache quantization backend for your agents: 3-5x more context, throughput above FP16, and FP16-level accuracy. Calibration-free, one flag.
- Propriétaire
- huawei-csl (organisation)
- Étoiles
- Étoiles : 513
- Forks
- Forks : 37
- Langage
- Python
- Licence
- Apache-2.0
- Création
- 2026
- Sujets
- agentic-aikv-cachelong-contextquantizationvllmllmllm-inference
- Rang
- Alpha (250 à 699 ★) Ce que veut dire ce rang
Autres dépôts de huawei-csl
Les 2 dépôts de huawei-csl- huawei-csl/SINQÉtoiles : 636PythonAlpha
D’autres dépôts Python
Tous les dépôts Python- allenai/molmospacesÉtoiles : 513PythonAlpha
- Haian-Jin/ZipMapÉtoiles : 513PythonAlpha
- Leey21/arxiv-translatorÉtoiles : 513PythonAlpha
- MarketSquare/robotframework-requestsÉtoiles : 513PythonAlpha
- jantman/awslimitcheckerÉtoiles : 513PythonAlpha
- SenticNet/personality-detectionÉtoiles : 513PythonAlpha