BêtaRare
RahulSChand/gpu_poor
Calculate token/s & GPU memory requirement for any LLM. Supports llama.cpp/ggml/bnb/QLoRA quantization
- Propriétaire
- RahulSChand (compte personnel)
- Étoiles
- Étoiles : 1 402
- Forks
- Forks : 87
- Langage
- JavaScript
- Licence
- Aucune
- Création
- 2023
- Sujets
- ggmlhuggingfacellmquantizationgpulanguage-modelpytorchllamallama2llamacpp
- Rang
- Bêta (700 à 1 999 ★) Ce que veut dire ce rang
Autres dépôts de RahulSChand
Les 2 dépôts de RahulSChand- RahulSChand/llama2.c-for-dummiesÉtoiles : 234CPrototype
D’autres dépôts JavaScript
Tous les dépôts JavaScript- sleepybear1113/taobaoVisitingVenuesÉtoiles : 1 402JavaScriptBêta
- DualSubs/UniversalÉtoiles : 1 402JavaScriptBêta
- remittor/zapret-openwrtÉtoiles : 1 402JavaScriptBêta
- Tygs/0binÉtoiles : 1 402JavaScriptBêta
- idevelop/ascii-cameraÉtoiles : 1 402JavaScriptBêta