# zhihu/ZhiLight

<https://repo.masters-masters.com/repos/zhihu/ZhiLight>

[Accueil](https://repo.masters-masters.com/) › [zhihu](https://repo.masters-masters.com/owners/zhihu) › [ZhiLight](https://repo.masters-masters.com/repos/zhihu/ZhiLight)

zhihu/ZhiLight, dépôt open source à 906 étoiles sur GitHub. Carte Bêta de RepoMasters. A highly optimized LLM inference acceleration engine for Llama and its…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [zhihu](https://repo.masters-masters.com/owners/zhihu) |
| Étoiles | 906 |
| Forks | 105 |
| Langage | [C++](https://repo.masters-masters.com/languages/c-plus-plus) |
| Licence | Apache-2.0 |
| Création | 2024 |
| Sujets | inference-engine, llm, cuda, gpt, llama, llm-serving, pytorch, llm-inference, model-serving, deepseek-r1 |
| Rang | [Bêta (700 à 1 999 ★)](https://repo.masters-masters.com/ranks/box_office) |
| Voir sur GitHub | [zhihu/ZhiLight](https://github.com/zhihu/ZhiLight) |

## Fiche du dépôt

A highly optimized LLM inference acceleration engine for Llama and its variants.

Rang des dépôts qui ont 700 à 1 999 ★ sur GitHub. Probabilité publiée par carte tirée : 6 %. Rareté : Rare.

## Autres dépôts de zhihu

- [zhihu/Matisse · ★ 12 492 · Java · Stable](https://repo.masters-masters.com/repos/zhihu/Matisse)
- [zhihu/griffith · ★ 2 507 · TypeScript · RC](https://repo.masters-masters.com/repos/zhihu/griffith)
- [zhihu/kids · ★ 1 213 · C++ · Bêta](https://repo.masters-masters.com/repos/zhihu/kids)
- [zhihu/rucene · ★ 1 019 · Rust · Bêta](https://repo.masters-masters.com/repos/zhihu/rucene)
- [zhihu/cuBERT · ★ 546 · C++ · Alpha](https://repo.masters-masters.com/repos/zhihu/cuBERT)
- [zhihu/RxLifecycle · ★ 507 · Java · Alpha](https://repo.masters-masters.com/repos/zhihu/RxLifecycle)

## D’autres dépôts C++

- [eyalroz/cuda-api-wrappers · ★ 906 · C++ · Bêta](https://repo.masters-masters.com/repos/eyalroz/cuda-api-wrappers)
- [DustinHLand/vkDOOM3 · ★ 906 · C++ · Bêta](https://repo.masters-masters.com/repos/DustinHLand/vkDOOM3)
- [google/quiche · ★ 906 · C++ · Bêta](https://repo.masters-masters.com/repos/google/quiche)
- [CLD2Owners/cld2 · ★ 905 · C++ · Bêta](https://repo.masters-masters.com/repos/CLD2Owners/cld2)

---
Données : GitHub · Illustration : image publique du projet, pixelisée par RepoMasters.