# turboderp-org/exllamav2

<https://repo.masters-masters.com/repos/turboderp-org/exllamav2>

[Accueil](https://repo.masters-masters.com/) › [turboderp-org](https://repo.masters-masters.com/owners/turboderp-org) › [exllamav2](https://repo.masters-masters.com/repos/turboderp-org/exllamav2)

turboderp-org/exllamav2, dépôt open source à 4 649 étoiles sur GitHub. Carte RC de RepoMasters. A fast inference library for running LLMs locally on modern…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [turboderp-org](https://repo.masters-masters.com/owners/turboderp-org) |
| Étoiles | 4 649 |
| Forks | 348 |
| Langage | [Python](https://repo.masters-masters.com/languages/python) |
| Licence | MIT |
| Création | 2023 |
| Rang | [RC (2 000 à 4 999 ★)](https://repo.masters-masters.com/ranks/blockbuster) |
| Voir sur GitHub | [turboderp-org/exllamav2](https://github.com/turboderp-org/exllamav2) |

## Fiche du dépôt

A fast inference library for running LLMs locally on modern consumer-class GPUs

Rang des dépôts qui ont 2 000 à 4 999 ★ sur GitHub. Probabilité publiée par carte tirée : 3 %. Rareté : Épique.

## Autres dépôts de turboderp-org

- [turboderp-org/exllamav3 · ★ 1 785 · Python · Bêta](https://repo.masters-masters.com/repos/turboderp-org/exllamav3)
- [turboderp-org/exui · ★ 517 · JavaScript · Alpha](https://repo.masters-masters.com/repos/turboderp-org/exui)

## D’autres dépôts Python

- [sweetice/Deep-reinforcement-learning-with-pytorch · ★ 4 653 · Python · RC](https://repo.masters-masters.com/repos/sweetice/Deep-reinforcement-learning-with-pytorch)
- [ReversecLabs/drozer · ★ 4 649 · Python · RC](https://repo.masters-masters.com/repos/ReversecLabs/drozer)
- [Seeed-Projects/reBot-DevArm · ★ 4 649 · Python · RC](https://repo.masters-masters.com/repos/Seeed-Projects/reBot-DevArm)
- [tlkh/asitop · ★ 4 645 · Python · RC](https://repo.masters-masters.com/repos/tlkh/asitop)
- [promptslab/Promptify · ★ 4 645 · Python · RC](https://repo.masters-masters.com/repos/promptslab/Promptify)

---
Données : GitHub · Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage.