Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
PrototypeCommune

arozanov/turboquant-mlx

TurboQuant KV cache compression for MLX with fused Metal kernels. 4.6x compression at 98% FP16 speed.

Propriétaire
arozanov (compte personnel)
Étoiles
Étoiles : 113
Forks
Forks : 19
Langage
Python
Licence
Aucune
Création
2026
Sujets
apple-siliconkv-cachellmmetalmlxquantizationturboquant
Rang
Prototype (100 à 249 ★) Ce que veut dire ce rang
Voir sur GitHub

D’autres dépôts Python

Tous les dépôts Python