Illustration : image publique du projet, pixelisée par RepoMasters. Crédits
RCÉpique

ovg-project/kvcached

Virtualized Elastic KV Cache for Dynamic GPU Sharing and Beyond

Propriétaire
ovg-project (organisation)
Étoiles
Étoiles : 2 018
Forks
Forks : 235
Langage
Python
Licence
Apache-2.0
Création
2025
Sujets
gpu-sharingkvcachellmsglangvllmkvcachedinference-enginegpu-mutiplexingkvcache-optimizationllm-framework
Rang
RC (2 000 à 4 999 ★) Ce que veut dire ce rang
Voir sur GitHub

D’autres dépôts Python

Tous les dépôts Python