# guqiong96/Lvllm

<https://repo.masters-masters.com/repos/guqiong96/Lvllm>

[Accueil](https://repo.masters-masters.com/) › [guqiong96](https://repo.masters-masters.com/owners/guqiong96) › [Lvllm](https://repo.masters-masters.com/repos/guqiong96/Lvllm)

guqiong96/Lvllm, dépôt open source à 474 étoiles sur GitHub. Carte Alpha de RepoMasters. LvLLM is a special NUMA extension of vllm that makes full use of CPU…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [guqiong96](https://repo.masters-masters.com/owners/guqiong96) |
| Étoiles | 474 |
| Forks | 42 |
| Langage | [Python](https://repo.masters-masters.com/languages/python) |
| Licence | Apache-2.0 |
| Création | 2025 |
| Sujets | hybrid, inference, model, moe, numa, parallelism, vllm, cpu, decode, gpu |
| Rang | [Alpha (250 à 699 ★)](https://repo.masters-masters.com/ranks/b_movie) |
| Voir sur GitHub | [guqiong96/Lvllm](https://github.com/guqiong96/Lvllm) |

## Fiche du dépôt

LvLLM is a special NUMA extension of vllm that makes full use of CPU and memory resources, reduces GPU memory requirements, and features an efficient GPU parallel and NUMA parallel architecture, supporting hybrid inference for MOE large models.

Rang des dépôts qui ont 250 à 699 ★ sur GitHub. Probabilité publiée par carte tirée : 20 %. Rareté : Peu commune.

## Autres dépôts de guqiong96

- [guqiong96/Lsglang · ★ 164 · Python · Prototype](https://repo.masters-masters.com/repos/guqiong96/Lsglang)

## D’autres dépôts Python

- [QuZhan51496/paper2anything · ★ 474 · Python · Alpha](https://repo.masters-masters.com/repos/QuZhan51496/paper2anything)
- [ByteDance-Seed/EdgeBench · ★ 474 · Python · Alpha](https://repo.masters-masters.com/repos/ByteDance-Seed/EdgeBench)
- [chengmarc/minecraft-citygen · ★ 474 · Python · Alpha](https://repo.masters-masters.com/repos/chengmarc/minecraft-citygen)
- [django-commons/django-robots · ★ 474 · Python · Alpha](https://repo.masters-masters.com/repos/django-commons/django-robots)
- [py-moneyed/py-moneyed · ★ 474 · Python · Alpha](https://repo.masters-masters.com/repos/py-moneyed/py-moneyed)
- [TabViewer/tabview · ★ 474 · Python · Alpha](https://repo.masters-masters.com/repos/TabViewer/tabview)

---
Données : GitHub · Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage.