# localai-org/vllm.cpp

<https://repo.masters-masters.com/repos/localai-org/vllm.cpp>

[Accueil](https://repo.masters-masters.com/) › [localai-org](https://repo.masters-masters.com/owners/localai-org) › [vllm.cpp](https://repo.masters-masters.com/repos/localai-org/vllm.cpp)

localai-org/vllm.cpp, dépôt open source à 475 étoiles sur GitHub. Carte Alpha de RepoMasters. a community oriented 1:1, vLLM-alike (Continuous batching, paged…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [localai-org](https://repo.masters-masters.com/owners/localai-org) |
| Étoiles | 475 |
| Forks | 58 |
| Langage | [C++](https://repo.masters-masters.com/languages/c-plus-plus) |
| Licence | Apache-2.0 |
| Création | 2026 |
| Sujets | mlx, vllm, cpp20, llm, continous-batching, paged-attention, radixattention |
| Rang | [Alpha (250 à 699 ★)](https://repo.masters-masters.com/ranks/b_movie) |
| Voir sur GitHub | [localai-org/vllm.cpp](https://github.com/localai-org/vllm.cpp) |

## Fiche du dépôt

a community oriented 1:1, vLLM-alike (Continuous batching, paged KV) engine in C++ with additional features (GGUF, RadixAttention, Cache-aware scheduling, ...)

Rang des dépôts qui ont 250 à 699 ★ sur GitHub. Probabilité publiée par carte tirée : 20 %. Rareté : Peu commune.

## Autres dépôts de localai-org

- [localai-org/depth-anything.cpp · ★ 1 136 · C++ · Bêta](https://repo.masters-masters.com/repos/localai-org/depth-anything.cpp)
- [localai-org/kimodo.cpp · ★ 948 · C++ · Bêta](https://repo.masters-masters.com/repos/localai-org/kimodo.cpp)
- [localai-org/apex-quant · ★ 482 · Shell · Alpha](https://repo.masters-masters.com/repos/localai-org/apex-quant)
- [localai-org/motion-bricks.cpp · ★ 348 · C++ · Alpha](https://repo.masters-masters.com/repos/localai-org/motion-bricks.cpp)
- [localai-org/privacy-filter.cpp · ★ 308 · C++ · Alpha](https://repo.masters-masters.com/repos/localai-org/privacy-filter.cpp)
- [localai-org/LocalVQE · ★ 247 · C++ · Prototype](https://repo.masters-masters.com/repos/localai-org/LocalVQE)

## D’autres dépôts C++

- [apache/tvm-ffi · ★ 475 · C++ · Alpha](https://repo.masters-masters.com/repos/apache/tvm-ffi)
- [carbonengine/trinity · ★ 475 · C++ · Alpha](https://repo.masters-masters.com/repos/carbonengine/trinity)
- [NotRexed/SkyboundTotk · ★ 475 · C++ · Alpha](https://repo.masters-masters.com/repos/NotRexed/SkyboundTotk)
- [jorgen/json\_struct · ★ 475 · C++ · Alpha](https://repo.masters-masters.com/repos/jorgen/json_struct)
- [xuzhezhaozhao/DS\_Code · ★ 475 · C++ · Alpha](https://repo.masters-masters.com/repos/xuzhezhaozhao/DS_Code)
- [TadasBaltrusaitis/CLM-framework · ★ 475 · C++ · Alpha](https://repo.masters-masters.com/repos/TadasBaltrusaitis/CLM-framework)

---
Données : GitHub · Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage.