Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
AlphaPeu commune

wici-ai/inferssd

Run models larger than your RAM or VRAM by streaming MoE experts from SSD. Built on llama.cpp.

Propriétaire
wici-ai (organisation)
Étoiles
Étoiles : 296
Forks
Forks : 44
Langage
C++
Licence
Apache-2.0
Création
2026
Sujets
apple-siliconcudaggufinferencellama-cppllmmetalmixture-of-expertsssd
Rang
Alpha (250 à 699 ★) Ce que veut dire ce rang
Voir sur GitHub

D’autres dépôts C++

Tous les dépôts C++