PrototypeCommune
JakeATX/llamAmpere
llama.cpp fork for significantly improved performance on Ampere generation Nvidia cards (especially RTX 3090 / 3090 Ti): example: 110+ tok/s over a 100K-token generation at temperature 1 for qwen3.8, supporting full 262K ctx. Supports low memory (12gb) configs for 200k+ ctx
- Propriétaire
- JakeATX (compte personnel)
- Étoiles
- Étoiles : 214
- Forks
- Forks : 30
- Langage
- C++
- Licence
- MIT
- Création
- 2026
- Sujets
- ampereconsumer-gpucudaggmlggufkv-cache-quantizationllama-cppllmllm-inferencelocal-llm
- Rang
- Prototype (100 à 249 ★) Ce que veut dire ce rang
D’autres dépôts C++
Tous les dépôts C++- hwbp/CLR-UnhookÉtoiles : 214C++Prototype
- FinalScave/SweetEditorÉtoiles : 214C++Prototype
- samine825/Hypr3DÉtoiles : 214C++Prototype
- wang-bin/qdevicewatcherÉtoiles : 214C++Prototype
- dubey/weaverÉtoiles : 214C++Prototype
- CroatiaControlLtd/asterixÉtoiles : 214C++Prototype