BêtaRare
jmaczan/tiny-vllm
Build your own high performance LLM inference engine in C++ and CUDA - a smaller version of vLLM
- Propriétaire
- jmaczan (compte personnel)
- Étoiles
- Étoiles : 1 180
- Forks
- Forks : 102
- Langage
- C++
- Licence
- Apache-2.0
- Création
- 2026
- Sujets
- aihpcllmllm-inferencevllmtiny-vllmcppcudapagedattentionattention
- Rang
- Bêta (700 à 1 999 ★) Ce que veut dire ce rang
Autres dépôts de jmaczan
Les 3 dépôts de jmaczan- jmaczan/bulma-helpersÉtoiles : 281CSSAlpha
- jmaczan/gdansk-aiÉtoiles : 197TypeScriptPrototype
D’autres dépôts C++
Tous les dépôts C++- openSUSE/snapperÉtoiles : 1 181C++Bêta
- zynaddsubfx/zynaddsubfxÉtoiles : 1 181C++Bêta
- madmann91/bvhÉtoiles : 1 180C++Bêta
- aappleby/metroboyÉtoiles : 1 179C++Bêta
- TheForceEngine/TheForceEngineÉtoiles : 1 179C++Bêta
- eliben/llvm-clang-samplesÉtoiles : 1 178C++Bêta