AlphaPeu commune
localai-org/vllm.cpp
a community oriented 1:1, vLLM-alike (Continuous batching, paged KV) engine in C++ with additional features (GGUF, RadixAttention, Cache-aware scheduling, ...)
- Propriétaire
- localai-org (organisation)
- Étoiles
- Étoiles : 474
- Forks
- Forks : 58
- Langage
- C++
- Licence
- Apache-2.0
- Création
- 2026
- Sujets
- mlxvllmcpp20llmcontinous-batchingpaged-attentionradixattention
- Rang
- Alpha (250 à 699 ★) Ce que veut dire ce rang
Autres dépôts de localai-org
Les 10 dépôts de localai-org- localai-org/depth-anything.cppÉtoiles : 1 136C++Bêta
- localai-org/kimodo.cppÉtoiles : 946C++Bêta
- localai-org/apex-quantÉtoiles : 482ShellAlpha
- localai-org/motion-bricks.cppÉtoiles : 346C++Alpha
- localai-org/privacy-filter.cppÉtoiles : 308C++Alpha
- localai-org/LocalVQEÉtoiles : 246C++Prototype
D’autres dépôts C++
Tous les dépôts C++- SamoZ256/hydraÉtoiles : 474C++Alpha
- M4THYOU/TokenDaggerÉtoiles : 474C++Alpha
- UrbanCircles/scribeÉtoiles : 474C++Alpha
- jorgen/json_structÉtoiles : 474C++Alpha
- pyroscope/rtorrent-psÉtoiles : 474C++Alpha
- DentonW/DevILÉtoiles : 474C++Alpha