RCÉpique
vllm-project/llm-compressor
State-of-the-art LLM compression, built for production inference with vLLM
- Propriétaire
- vllm-project (organisation)
- Étoiles
- Étoiles : 3 933
- Forks
- Forks : 721
- Langage
- Python
- Licence
- Apache-2.0
- Création
- 2024
- Sujets
- compressionquantization
- Rang
- RC (2 000 à 4 999 ★) Ce que veut dire ce rang
Autres dépôts de vllm-project
Les 20 dépôts de vllm-project- vllm-project/vllmÉtoiles : 96 102PythonLTS
- vllm-project/vllm-omniÉtoiles : 7 480PythonStable
- vllm-project/semantic-routerÉtoiles : 6 371GoStable
- vllm-project/aibrixÉtoiles : 5 175GoStable
- vllm-project/vllm-ascendÉtoiles : 3 039PythonRC
- vllm-project/production-stackÉtoiles : 2 704PythonRC
D’autres dépôts Python
Tous les dépôts Python- mesa/mesaÉtoiles : 3 936PythonRC
- BlinkDL/AI-WriterÉtoiles : 3 935PythonRC
- ansible/ansible-lintÉtoiles : 3 933PythonRC
- danijar/dreamerv3Étoiles : 3 932PythonRC
- cornellius-gp/gpytorchÉtoiles : 3 931PythonRC
- diego-vicente/som-tspÉtoiles : 3 931PythonRC