StableTrès rare
FMInference/FlexLLMGen
Running large language models on a single GPU for throughput-oriented scenarios.
Archivé : ce dépôt n’évolue plus
- Propriétaire
- FMInference (organisation)
- Étoiles
- Étoiles : 9 343
- Forks
- Forks : 587
- Langage
- Python
- Licence
- Apache-2.0
- Création
- 2023
- Sujets
- deep-learninggpt-3high-throughputlarge-language-modelsmachine-learningoffloadingopt
- Rang
- Stable (5 000 à 19 999 ★) Ce que veut dire ce rang
Autres dépôts de FMInference
Les 3 dépôts de FMInference- FMInference/H2OÉtoiles : 537PythonAlpha
- FMInference/DejaVuÉtoiles : 363PythonAlpha
D’autres dépôts Python
Tous les dépôts Python- facebookresearch/maskrcnn-benchmarkÉtoiles : 9 360PythonStable
- garrettj403/SciencePlotsÉtoiles : 9 355PythonStable
- X-PLUG/MobileAgentÉtoiles : 9 348PythonStable
- keras-team/autokerasÉtoiles : 9 340PythonStable
- voicepaw/so-vits-svc-forkÉtoiles : 9 331PythonStable
- meituan-longcat/LongCat-VideoÉtoiles : 9 320PythonStable