PrototypeCommune
romsto/Speculative-Decoding
Implementation of the paper Fast Inference from Transformers via Speculative Decoding, Leviathan et al. 2023.
- Propriétaire
- romsto (compte personnel)
- Étoiles
- Étoiles : 116
- Forks
- Forks : 25
- Langage
- Python
- Licence
- MIT
- Création
- 2024
- Sujets
- fast-inferencellmllm-inferencellm-optimizationspeculative-decoding
- Rang
- Prototype (100 à 249 ★) Ce que veut dire ce rang
D’autres dépôts Python
Tous les dépôts Python- abigailmaria/RoughFeelÉtoiles : 116PythonPrototype
- arby18/DraftSenseÉtoiles : 116PythonPrototype
- flemuh/radar-public-sectorÉtoiles : 116PythonPrototype
- jezdez/django-mobileadminÉtoiles : 116PythonPrototype
- montylounge/django-sugarÉtoiles : 116PythonPrototype
- codysoyland/django-template-replÉtoiles : 116PythonPrototype