Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
AlphaPeu commune

efeslab/fiddler

[ICLR'25] Fast Inference of MoE Models with CPU-GPU Orchestration

Propriétaire
efeslab (organisation)
Étoiles
Étoiles : 267
Forks
Forks : 37
Langage
Python
Licence
Apache-2.0
Création
2024
Sujets
llmllm-inferencemixtral-8x7bmixture-of-expertslocal-inference
Rang
Alpha (250 à 699 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de efeslab

Les 4 dépôts de efeslab

D’autres dépôts Python

Tous les dépôts Python