Illustration : image publique du projet, pixelisée par RepoMasters. Crédits
BêtaRare

turboderp-org/exllamav3

An optimized quantization and inference library for running LLMs locally on modern consumer-class GPUs

Propriétaire
turboderp-org (organisation)
Étoiles
Étoiles : 1 778
Forks
Forks : 281
Langage
Python
Licence
MIT
Création
2025
Rang
Bêta (700 à 1 999 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de turboderp-org

Les 3 dépôts de turboderp-org

D’autres dépôts Python

Tous les dépôts Python