BêtaRare
ModelCloud/GPTQModel
LLM model quantization (compression) toolkit with HW acceleration support for Nvidia, AMD, Intel GPU and Intel/AMD/Apple CPU via HF, vLLM, and SGLang.
- Propriétaire
- ModelCloud (organisation)
- Étoiles
- Étoiles : 1 283
- Forks
- Forks : 213
- Langage
- Python
- Licence
- Aucune
- Création
- 2024
- Sujets
- gptqoptimumpeftquantizationsglangtransformersvllm
- Rang
- Bêta (700 à 1 999 ★) Ce que veut dire ce rang
D’autres dépôts Python
Tous les dépôts Python- kiwitcms/KiwiÉtoiles : 1 283PythonBêta
- ericyangyu/PPO-for-BeginnersÉtoiles : 1 283PythonBêta
- mategol/PySilonÉtoiles : 1 283PythonBêta
- ForensicArtifacts/artifactsÉtoiles : 1 283PythonBêta