Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
PrototypeCommune

InferMatrixLab/vllm-rlt

A vLLM-inspired inference engine for looped transformers, with loop-level scheduling and execution across composable stages

Propriétaire
InferMatrixLab (organisation)
Étoiles
Étoiles : 214
Forks
Forks : 34
Langage
Python
Licence
Apache-2.0
Création
2026
Sujets
inference-enginellmtransformer
Rang
Prototype (100 à 249 ★) Ce que veut dire ce rang
Voir sur GitHub

D’autres dépôts Python

Tous les dépôts Python