PrototypeCommune
NeelM0906/Mference
Swift + Metal MoE inference for Apple Silicon: Qwen 3.6 35B at 23.5–29.3 tok/s decode with 2.20× faster long-prompt prefill on a 24 GB M5; Gemma 4 26B in ~2 GB, DeepSeek-V4-Flash 284B, Inkling-Small 276B, native Mac app, CLI, and OpenAI-compatible server.
- Propriétaire
- NeelM0906 (compte personnel)
- Étoiles
- Étoiles : 122
- Forks
- Forks : 17
- Langage
- Swift
- Licence
- Aucune
- Création
- 2026
- Sujets
- apple-silicondeepseekgemmallm-inferencemacosmetalmixture-of-expertsqwenswift
- Rang
- Prototype (100 à 249 ★) Ce que veut dire ce rang
D’autres dépôts Swift
Tous les dépôts Swift- wr/mojitoÉtoiles : 122SwiftPrototype
- easychen/markmarkÉtoiles : 122SwiftPrototype
- icloudza/termoÉtoiles : 122SwiftPrototype
- exercism/swiftÉtoiles : 122SwiftPrototype
- nschum/SwiftCGRectExtensionsÉtoiles : 122SwiftPrototype
- honghaoz/AutoKeyboardScrollViewÉtoiles : 122SwiftPrototype