Illustration : image publique du projet, pixelisée par RepoMasters. Crédits
StableTrès rare

kvcache-ai/ktransformers

A Flexible Framework for Experiencing Heterogeneous LLM Inference/Fine-tune Optimizations

Propriétaire
kvcache-ai (organisation)
Étoiles
Étoiles : 19 649
Forks
Forks : 1 600
Langage
Python
Licence
Apache-2.0
Création
2024
Rang
Stable (5 000 à 19 999 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de kvcache-ai

Les 3 dépôts de kvcache-ai

D’autres dépôts Python

Tous les dépôts Python