# dipampaul17/KVSplit

<https://repo.masters-masters.com/repos/dipampaul17/KVSplit>

[Accueil](https://repo.masters-masters.com/) › [dipampaul17](https://repo.masters-masters.com/owners/dipampaul17) › [KVSplit](https://repo.masters-masters.com/repos/dipampaul17/KVSplit)

dipampaul17/KVSplit, dépôt open source à 361 étoiles sur GitHub. Carte Alpha de RepoMasters. Run larger LLMs with longer contexts on Apple Silicon by using…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [dipampaul17](https://repo.masters-masters.com/owners/dipampaul17) |
| Étoiles | 361 |
| Forks | 13 |
| Langage | [Python](https://repo.masters-masters.com/languages/python) |
| Licence | Aucune |
| Création | 2025 |
| Sujets | apple-silicon, generative-ai, kv-cache, llama-cpp, llm, m1, m2, m3, memory-optimization, metal |
| Rang | [Alpha (250 à 699 ★)](https://repo.masters-masters.com/ranks/b_movie) |
| Voir sur GitHub | [dipampaul17/KVSplit](https://github.com/dipampaul17/KVSplit) |

## Fiche du dépôt

Run larger LLMs with longer contexts on Apple Silicon by using differentiated precision for KV cache quantization. KVSplit enables 8-bit keys & 4-bit values, reducing memory by 59% with \<1% quality loss. Includes benchmarking, visualization, and one-command setup. Optimized for M1/M2/M3 Macs with M…

Rang des dépôts qui ont 250 à 699 ★ sur GitHub. Probabilité publiée par carte tirée : 20 %. Rareté : Peu commune.

## Autres dépôts de dipampaul17

- [dipampaul17/AgentGuard · ★ 173 · JavaScript · Prototype](https://repo.masters-masters.com/repos/dipampaul17/AgentGuard)

## D’autres dépôts Python

- [xjli360/sealeap-amazon-skills · ★ 361 · Python · Alpha](https://repo.masters-masters.com/repos/xjli360/sealeap-amazon-skills)
- [ikevss/wechat-ai-memory · ★ 361 · Python · Alpha](https://repo.masters-masters.com/repos/ikevss/wechat-ai-memory)
- [roboterax/video-prediction-policy-2 · ★ 361 · Python · Alpha](https://repo.masters-masters.com/repos/roboterax/video-prediction-policy-2)
- [pyelasticsearch/pyelasticsearch · ★ 361 · Python · Alpha](https://repo.masters-masters.com/repos/pyelasticsearch/pyelasticsearch)
- [github/pycon2011 · ★ 361 · Python · Alpha](https://repo.masters-masters.com/repos/github/pycon2011)
- [inconshreveable/sqltap · ★ 361 · Python · Alpha](https://repo.masters-masters.com/repos/inconshreveable/sqltap)

---
Données : GitHub · Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage.