Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
PrototypeCommune

PacifAIst/Quansloth

Based on the implementation of Google's TurboQuant (ICLR 2026) — Quansloth brings elite KV cache compression to local LLM inference. Quansloth is a fully private, air-gapped AI server that runs massive context models natively on consumer hardware with ease

Propriétaire
PacifAIst (compte personnel)
Étoiles
Étoiles : 153
Forks
Forks : 14
Langage
Python
Licence
Apache-2.0
Création
2026
Sujets
cudaturboquantquanslothvram-wall
Rang
Prototype (100 à 249 ★) Ce que veut dire ce rang
Voir sur GitHub

D’autres dépôts Python

Tous les dépôts Python