# IsaacRe/vllm-kvcompress

<https://repo.masters-masters.com/repos/IsaacRe/vllm-kvcompress>

[Accueil](https://repo.masters-masters.com/) › [IsaacRe](https://repo.masters-masters.com/owners/IsaacRe) › [vllm-kvcompress](https://repo.masters-masters.com/repos/IsaacRe/vllm-kvcompress)

IsaacRe/vllm-kvcompress, dépôt open source à 163 étoiles sur GitHub. Carte Prototype de RepoMasters. KV cache compression for high-throughput LLM inference

| Champ | Valeur |
| --- | --- |
| Propriétaire | [IsaacRe](https://repo.masters-masters.com/owners/IsaacRe) |
| Étoiles | 163 |
| Forks | 7 |
| Langage | [Python](https://repo.masters-masters.com/languages/python) |
| Licence | Apache-2.0 |
| Création | 2024 |
| Rang | [Prototype (100 à 249 ★)](https://repo.masters-masters.com/ranks/rush) |
| Voir sur GitHub | [IsaacRe/vllm-kvcompress](https://github.com/IsaacRe/vllm-kvcompress) |

## Fiche du dépôt

KV cache compression for high-throughput LLM inference

Rang des dépôts qui ont 100 à 249 ★ sur GitHub. Probabilité publiée par carte tirée : 70 %. Rareté : Commune.

## D’autres dépôts Python

- [amathislab/terra · ★ 163 · Python · Prototype](https://repo.masters-masters.com/repos/amathislab/terra)
- [weike-zhang/architecture-canvas · ★ 163 · Python · Prototype](https://repo.masters-masters.com/repos/weike-zhang/architecture-canvas)
- [Zenith-3D-Team/Zenith · ★ 163 · Python · Prototype](https://repo.masters-masters.com/repos/Zenith-3D-Team/Zenith)
- [josephwilk/semanticpy · ★ 163 · Python · Prototype](https://repo.masters-masters.com/repos/josephwilk/semanticpy)
- [jimfunk/django-postgresql-netfields · ★ 163 · Python · Prototype](https://repo.masters-masters.com/repos/jimfunk/django-postgresql-netfields)
- [hydralabs/pyamf · ★ 163 · Python · Prototype](https://repo.masters-masters.com/repos/hydralabs/pyamf)

---
Données : GitHub · Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage.