# Infini-AI-Lab/UMbreLLa

<https://repo.masters-masters.com/repos/Infini-AI-Lab/UMbreLLa>

[Accueil](https://repo.masters-masters.com/) › [Infini-AI-Lab](https://repo.masters-masters.com/owners/Infini-AI-Lab) › [UMbreLLa](https://repo.masters-masters.com/repos/Infini-AI-Lab/UMbreLLa)

Infini-AI-Lab/UMbreLLa, dépôt open source à 131 étoiles sur GitHub. Carte Prototype de RepoMasters. LLM Inference on consumer devices Langage : Python.

| Champ | Valeur |
| --- | --- |
| Propriétaire | [Infini-AI-Lab](https://repo.masters-masters.com/owners/Infini-AI-Lab) |
| Étoiles | 131 |
| Forks | 15 |
| Langage | [Python](https://repo.masters-masters.com/languages/python) |
| Licence | Apache-2.0 |
| Création | 2024 |
| Sujets | llm-inference, offloading, speculative-decoding |
| Rang | [Prototype (100 à 249 ★)](https://repo.masters-masters.com/ranks/rush) |
| Voir sur GitHub | [Infini-AI-Lab/UMbreLLa](https://github.com/Infini-AI-Lab/UMbreLLa) |

## Fiche du dépôt

LLM Inference on consumer devices

Rang des dépôts qui ont 100 à 249 ★ sur GitHub. Probabilité publiée par carte tirée : 70 %. Rareté : Commune.

## Autres dépôts de Infini-AI-Lab

- [Infini-AI-Lab/hermit · ★ 441 · Python · Alpha](https://repo.masters-masters.com/repos/Infini-AI-Lab/hermit)
- [Infini-AI-Lab/Sequoia · ★ 376 · Python · Alpha](https://repo.masters-masters.com/repos/Infini-AI-Lab/Sequoia)
- [Infini-AI-Lab/TriForce · ★ 280 · Python · Alpha](https://repo.masters-masters.com/repos/Infini-AI-Lab/TriForce)
- [Infini-AI-Lab/MagicPIG · ★ 256 · Python · Alpha](https://repo.masters-masters.com/repos/Infini-AI-Lab/MagicPIG)
- [Infini-AI-Lab/MagicDec · ★ 162 · Python · Prototype](https://repo.masters-masters.com/repos/Infini-AI-Lab/MagicDec)
- [Infini-AI-Lab/MonarchRT · ★ 146 · Python · Prototype](https://repo.masters-masters.com/repos/Infini-AI-Lab/MonarchRT)

## D’autres dépôts Python

- [yurenpai/mc-points-steward · ★ 131 · Python · Prototype](https://repo.masters-masters.com/repos/yurenpai/mc-points-steward)
- [yesterdayfuture/confess · ★ 131 · Python · Prototype](https://repo.masters-masters.com/repos/yesterdayfuture/confess)
- [lexifina/romania-law · ★ 131 · Python · Prototype](https://repo.masters-masters.com/repos/lexifina/romania-law)
- [jerem/psdparse · ★ 131 · Python · Prototype](https://repo.masters-masters.com/repos/jerem/psdparse)
- [davepeck/game-of-go · ★ 131 · Python · Prototype](https://repo.masters-masters.com/repos/davepeck/game-of-go)
- [brendano/tsvutils · ★ 131 · Python · Prototype](https://repo.masters-masters.com/repos/brendano/tsvutils)

---
Données : GitHub · Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage.