BêtaRare
vllm-project/guidellm
Evaluate and Enhance Your LLM Deployments for Real-World Inference Needs
- Propriétaire
- vllm-project (organisation)
- Étoiles
- Étoiles : 1 737
- Forks
- Forks : 282
- Langage
- Python
- Licence
- Apache-2.0
- Création
- 2024
- Rang
- Bêta (700 à 1 999 ★) Ce que veut dire ce rang
Autres dépôts de vllm-project
Les 20 dépôts de vllm-project- vllm-project/vllmÉtoiles : 96 102PythonLTS
- vllm-project/vllm-omniÉtoiles : 7 455PythonStable
- vllm-project/semantic-routerÉtoiles : 6 358GoStable
- vllm-project/aibrixÉtoiles : 5 171GoStable
- vllm-project/llm-compressorÉtoiles : 3 931PythonRC
- vllm-project/vllm-ascendÉtoiles : 3 039PythonRC
D’autres dépôts Python
Tous les dépôts Python- libgit2/pygit2Étoiles : 1 737PythonBêta
- charent/ChatLM-mini-ChineseÉtoiles : 1 737PythonBêta
- centerforaisafety/hleÉtoiles : 1 737PythonBêta
- zhougr1993/DeepInterestNetworkÉtoiles : 1 736PythonBêta