AlphaPeu commune
wici-ai/inferssd
Run models larger than your RAM or VRAM by streaming MoE experts from SSD. Built on llama.cpp.
- Propriétaire
- wici-ai (organisation)
- Étoiles
- Étoiles : 296
- Forks
- Forks : 44
- Langage
- C++
- Licence
- Apache-2.0
- Création
- 2026
- Sujets
- apple-siliconcudaggufinferencellama-cppllmmetalmixture-of-expertsssd
- Rang
- Alpha (250 à 699 ★) Ce que veut dire ce rang
D’autres dépôts C++
Tous les dépôts C++- engcang/FAST-LIO-Localization-QNÉtoiles : 296C++Alpha
- Teapot174/ESP-HACKÉtoiles : 296C++Alpha
- Game-Crafters-Guild/OpenEngineÉtoiles : 296C++Alpha
- fwbuilder/fwbuilderÉtoiles : 296C++Alpha
- kennykerr/modernÉtoiles : 296C++Alpha
- tora-tool/toraÉtoiles : 296C++Alpha