Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
PrototypeCommune

chadhurley25075-png/pd-bridge

Heterogeneous prefill/decode for DeepSeek-V4-Flash: CUDA prefill (DGX Spark, vLLM) -> Metal decode (Mac Studio, oMLX) over plain 10GbE

Propriétaire
chadhurley25075-png (compte personnel)
Étoiles
Étoiles : 151
Forks
Forks : 13
Langage
Python
Licence
Apache-2.0
Création
2026
Sujets
apple-silicondeepseekdgx-sparkheterogeneous-inferencekv-cachellm-inferencemlxomlxprefill-decodevllm
Rang
Prototype (100 à 249 ★) Ce que veut dire ce rang
Voir sur GitHub

D’autres dépôts Python

Tous les dépôts Python