Illustration : image publique du projet, pixelisée par RepoMasters. Crédits
BêtaRare

vllm-project/speculators

A unified library for building, evaluating, and storing speculative decoding algorithms for LLM inference in vLLM

Propriétaire
vllm-project (organisation)
Étoiles
Étoiles : 934
Forks
Forks : 277
Langage
Python
Licence
Apache-2.0
Création
2025
Sujets
speculative-decoding
Rang
Bêta (700 à 1 999 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de vllm-project

Les 20 dépôts de vllm-project

D’autres dépôts Python

Tous les dépôts Python