BêtaRare
EricLBuehler/candle-vllm
Efficent platform for inference and serving local LLMs including an OpenAI compatible API server.
- Propriétaire
- EricLBuehler (compte personnel)
- Étoiles
- Étoiles : 739
- Forks
- Forks : 91
- Langage
- Rust
- Licence
- MIT
- Création
- 2023
- Rang
- Bêta (700 à 1 999 ★) Ce que veut dire ce rang
Autres dépôts de EricLBuehler
Les 5 dépôts de EricLBuehler- EricLBuehler/mistral.rsÉtoiles : 7 791RustStable
- EricLBuehler/xloraÉtoiles : 284PythonAlpha
- EricLBuehler/candle-loraÉtoiles : 177RustPrototype
- EricLBuehler/diffusion-rsÉtoiles : 130RustPrototype
D’autres dépôts Rust
Tous les dépôts Rust- ZeroTworu/anetÉtoiles : 740RustBêta
- lambdaclass/lambdaworksÉtoiles : 739RustBêta
- zibo-chen/SubnetDeskÉtoiles : 739RustBêta
- alexcrichton/futures-awaitÉtoiles : 738RustBêta
- dirs-dev/dirs-rsÉtoiles : 738RustBêta