Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
AlphaPeu commune

Infini-AI-Lab/TriForce

[COLM 2024] TriForce: Lossless Acceleration of Long Sequence Generation with Hierarchical Speculative Decoding

Propriétaire
Infini-AI-Lab (organisation)
Étoiles
Étoiles : 280
Forks
Forks : 21
Langage
Python
Licence
Aucune
Création
2024
Sujets
accelerationllmlong-contextspeculative-decodingllm-inferenceefficiencyinference
Rang
Alpha (250 à 699 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de Infini-AI-Lab

Les 9 dépôts de Infini-AI-Lab

D’autres dépôts Python

Tous les dépôts Python