Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
AlphaPeu commune

modelscope/dash-infer

DashInfer is a native LLM inference engine aiming to deliver industry-leading performance atop various hardware architectures, including CUDA, x86 and ARMv9.

Propriétaire
modelscope (organisation)
Étoiles
Étoiles : 272
Forks
Forks : 29
Langage
C
Licence
Apache-2.0
Création
2024
Sujets
cpullmllm-inferencenative-enginecudaguided-decoding
Rang
Alpha (250 à 699 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de modelscope

Les 35 dépôts de modelscope

D’autres dépôts C

Tous les dépôts C