Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
RCÉpique

turboderp-org/exllamav2

A fast inference library for running LLMs locally on modern consumer-class GPUs

Propriétaire
turboderp-org (organisation)
Étoiles
Étoiles : 4 648
Forks
Forks : 348
Langage
Python
Licence
MIT
Création
2023
Rang
RC (2 000 à 4 999 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de turboderp-org

Les 3 dépôts de turboderp-org

D’autres dépôts Python

Tous les dépôts Python