RCÉpique
ModelTC/LightLLM
LightLLM is a Python-based LLM (Large Language Model) inference and serving framework, notable for its lightweight design, easy scalability, and high-speed performance.
- Propriétaire
- ModelTC (organisation)
- Étoiles
- Étoiles : 4 349
- Forks
- Forks : 383
- Langage
- Python
- Licence
- Apache-2.0
- Création
- 2023
- Sujets
- deep-learninggptllamallmmodel-servingnlpopenai-triton
- Rang
- RC (2 000 à 4 999 ★) Ce que veut dire ce rang
Autres dépôts de ModelTC
Les 10 dépôts de ModelTC- ModelTC/LightX2VÉtoiles : 2 980PythonRC
- ModelTC/LightX2V-Qwen-Image-LightningÉtoiles : 1 364PythonBêta
- ModelTC/MQBenchÉtoiles : 887PythonBêta
- ModelTC/LightCompressÉtoiles : 753PythonBêta
- ModelTC/United-PerceptionÉtoiles : 438PythonAlpha
- ModelTC/Minimax-H3-TurboÉtoiles : 409PythonAlpha
D’autres dépôts Python
Tous les dépôts Python- Lucksi/Mr.HolmesÉtoiles : 4 354PythonRC
- MichaelGrupp/evoÉtoiles : 4 353PythonRC
- wasi-master/13ftÉtoiles : 4 351PythonRC
- MongoEngine/mongoengineÉtoiles : 4 348PythonRC
- anasty17/mirror-leech-telegram-botÉtoiles : 4 348PythonRC
- ZhengPeng7/BiRefNetÉtoiles : 4 347PythonRC