LTSLégendaire
vllm-project/vllm
A high-throughput and memory-efficient inference and serving engine for LLMs
- Propriétaire
- vllm-project (organisation)
- Étoiles
- Étoiles : 96 102
- Forks
- Forks : 24 285
- Langage
- Python
- Licence
- Apache-2.0
- Création
- 2023
- Sujets
- gptllmpytorchmodel-servingtransformerllm-servinginferencellamaamdcuda
- Rang
- LTS (20 000 ★ et plus) Ce que veut dire ce rang
Autres dépôts de vllm-project
Les 20 dépôts de vllm-project- vllm-project/vllm-omniÉtoiles : 7 480PythonStable
- vllm-project/semantic-routerÉtoiles : 6 371GoStable
- vllm-project/aibrixÉtoiles : 5 175GoStable
- vllm-project/llm-compressorÉtoiles : 3 933PythonRC
- vllm-project/vllm-ascendÉtoiles : 3 039PythonRC
- vllm-project/production-stackÉtoiles : 2 704PythonRC
D’autres dépôts Python
Tous les dépôts Python- debpalash/VoiceStudioÉtoiles : 98 250PythonLTS
- nvbn/thefuckÉtoiles : 97 939PythonLTS
- hacksider/Deep-Live-CamÉtoiles : 97 515PythonLTS
- 3b1b/manimÉtoiles : 95 978PythonLTS
- sherlock-project/sherlockÉtoiles : 95 394PythonLTS
- odysseus-dev/odysseusÉtoiles : 94 899PythonLTS