Illustration : image publique du projet, pixelisée par RepoMasters. Crédits
BêtaRare

mit-han-lab/TinyChatEngine

TinyChatEngine: On-Device LLM Inference Library

Propriétaire
mit-han-lab (organisation)
Étoiles
Étoiles : 970
Forks
Forks : 102
Langage
C++
Licence
MIT
Création
2023
Sujets
armccppcuda-programmingdeep-learningedge-computinglarge-language-modelson-device-aiquantizationx86-64
Rang
Bêta (700 à 1 999 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de mit-han-lab

Les 53 dépôts de mit-han-lab

D’autres dépôts C++

Tous les dépôts C++