Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
PrototypeCommune

Infini-AI-Lab/UMbreLLa

LLM Inference on consumer devices

Propriétaire
Infini-AI-Lab (organisation)
Étoiles
Étoiles : 131
Forks
Forks : 15
Langage
Python
Licence
Apache-2.0
Création
2024
Sujets
llm-inferenceoffloadingspeculative-decoding
Rang
Prototype (100 à 249 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de Infini-AI-Lab

Les 9 dépôts de Infini-AI-Lab

D’autres dépôts Python

Tous les dépôts Python