StableTrès rare
microsoft/LLMLingua
[EMNLP'23, ACL'24] To speed up LLMs' inference and enhance LLM's perceive of key information, compress the prompt and KV-Cache, which achieves up to 20x compression with minimal performance loss.
- Propriétaire
- microsoft (organisation)
- Étoiles
- Étoiles : 6 791
- Forks
- Forks : 447
- Langage
- Python
- Licence
- MIT
- Création
- 2023
- Rang
- Stable (5 000 à 19 999 ★) Ce que veut dire ce rang
Autres dépôts de microsoft
Les 1 923 dépôts de microsoft- microsoft/vscodeÉtoiles : 194 428TypeScriptLTS
- microsoft/markitdownÉtoiles : 193 282PythonLTS
- microsoft/PowerToysÉtoiles : 140 362CLTS
- microsoft/generative-ai-for-beginnersÉtoiles : 122 672Jupyter NotebookLTS
- microsoft/TypeScriptÉtoiles : 111 706GoLTS
- microsoft/terminalÉtoiles : 105 300C++LTS
D’autres dépôts Python
Tous les dépôts Python- basketikun/chatgpt2apiÉtoiles : 6 802PythonStable
- kijai/ComfyUI-WanVideoWrapperÉtoiles : 6 799PythonStable
- internetarchive/openlibraryÉtoiles : 6 797PythonStable
- worldveil/dejavuÉtoiles : 6 790PythonStable
- FoundationVision/ByteTrackÉtoiles : 6 787PythonStable
- wzdnzd/aggregatorÉtoiles : 6 776PythonStable