# FMInference/FlexLLMGen

<https://repo.masters-masters.com/repos/FMInference/FlexLLMGen>

[Accueil](https://repo.masters-masters.com/) › [FMInference](https://repo.masters-masters.com/owners/FMInference) › [FlexLLMGen](https://repo.masters-masters.com/repos/FMInference/FlexLLMGen)

FMInference/FlexLLMGen, dépôt open source à 9 343 étoiles sur GitHub. Carte Stable de RepoMasters. Running large language models on a single GPU for…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [FMInference](https://repo.masters-masters.com/owners/FMInference) |
| Étoiles | 9 343 |
| Forks | 587 |
| Langage | [Python](https://repo.masters-masters.com/languages/python) |
| Licence | Apache-2.0 |
| Création | 2023 |
| Sujets | deep-learning, gpt-3, high-throughput, large-language-models, machine-learning, offloading, opt |
| Rang | [Stable (5 000 à 19 999 ★)](https://repo.masters-masters.com/ranks/cult) |
| Voir sur GitHub | [FMInference/FlexLLMGen](https://github.com/FMInference/FlexLLMGen) |

## Fiche du dépôt

Running large language models on a single GPU for throughput-oriented scenarios.

Archivé : ce dépôt n’évolue plus

Rang des dépôts qui ont 5 000 à 19 999 ★ sur GitHub. Probabilité publiée par carte tirée : 0,9 %. Rareté : Très rare.

## Autres dépôts de FMInference

- [FMInference/H2O · ★ 537 · Python · Alpha](https://repo.masters-masters.com/repos/FMInference/H2O)
- [FMInference/DejaVu · ★ 363 · Python · Alpha](https://repo.masters-masters.com/repos/FMInference/DejaVu)

## D’autres dépôts Python

- [facebookresearch/maskrcnn-benchmark · ★ 9 360 · Python · Stable](https://repo.masters-masters.com/repos/facebookresearch/maskrcnn-benchmark)
- [garrettj403/SciencePlots · ★ 9 357 · Python · Stable](https://repo.masters-masters.com/repos/garrettj403/SciencePlots)
- [X-PLUG/MobileAgent · ★ 9 350 · Python · Stable](https://repo.masters-masters.com/repos/X-PLUG/MobileAgent)
- [keras-team/autokeras · ★ 9 340 · Python · Stable](https://repo.masters-masters.com/repos/keras-team/autokeras)
- [voicepaw/so-vits-svc-fork · ★ 9 331 · Python · Stable](https://repo.masters-masters.com/repos/voicepaw/so-vits-svc-fork)
- [meituan-longcat/LongCat-Video · ★ 9 326 · Python · Stable](https://repo.masters-masters.com/repos/meituan-longcat/LongCat-Video)

---
Données : GitHub · Illustration : image publique du projet, pixelisée par RepoMasters.