Illustration : image publique du projet, pixelisée par RepoMasters. Crédits
BêtaRare

xLLM-AI/xllm

A high-performance inference engine for LLM, VLM, DiT and REC models, optimized for diverse AI accelerators. It is hosted in OpenAtom Foundation.

Propriétaire
xLLM-AI (organisation)
Étoiles
Étoiles : 1 613
Forks
Forks : 325
Langage
C++
Licence
Apache-2.0
Création
2025
Sujets
deepseekinferenceinference-enginellm-inferenceqwenlarge-language-modelsglm
Rang
Bêta (700 à 1 999 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de xLLM-AI

Les 2 dépôts de xLLM-AI

D’autres dépôts C++

Tous les dépôts C++