AlphaPeu commune
Mininglamp-AI/cider
W8A8/W4A8 inference + optimized SDPA on Apple Silicon — unlocking unused INT8 TensorOps in M5 for 1.2–1.9× faster LLM prefill, plus FlashInfer-inspired GQA decode attention for up to 1.6× SDPA speedup, built as MLX custom primitives.
- Propriétaire
- Mininglamp-AI (organisation)
- Étoiles
- Étoiles : 361
- Forks
- Forks : 17
- Langage
- Python
- Licence
- MIT
- Création
- 2026
- Sujets
- apple-siliconmetalmlxquantizationw4a8w8a8
- Rang
- Alpha (250 à 699 ★) Ce que veut dire ce rang
Autres dépôts de Mininglamp-AI
Les 3 dépôts de Mininglamp-AI- Mininglamp-AI/Mano-PÉtoiles : 2 840RC
- Mininglamp-AI/OctoASRÉtoiles : 148PythonPrototype
D’autres dépôts Python
Tous les dépôts Python- natolambert/colloquiumÉtoiles : 361PythonAlpha
- shuyicc/MathLensÉtoiles : 361PythonAlpha
- JFGAtlas/aethergate-proÉtoiles : 361PythonAlpha
- pyelasticsearch/pyelasticsearchÉtoiles : 361PythonAlpha
- github/pycon2011Étoiles : 361PythonAlpha
- inconshreveable/sqltapÉtoiles : 361PythonAlpha