Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
PrototypeCommune

SergiioB/intel-arc-pro-b70-inference-cookbook

Open recipes, engine patches, and benchmark harnesses for LLM inference on Intel Arc Pro B60/B70 (Battlemage, Xe2). MoE 35B at 160 t/s decode / 7.5K t/s prefill single-stream, 27B at 50~ t/s decode / 1.7K t/s prefill single stream. vLLM XPU MTP unlocked. Muse Glimmer recipe added!!

Propriétaire
SergiioB (compte personnel)
Étoiles
Étoiles : 191
Forks
Forks : 13
Langage
Python
Licence
MIT
Création
2026
Sujets
battlemageintel-arcintel-arc-b70intel-gpullama-cppllm-inferencelocal-aimoemtpspeculative-decoding
Rang
Prototype (100 à 249 ★) Ce que veut dire ce rang
Voir sur GitHub

D’autres dépôts Python

Tous les dépôts Python