# Tiiny-AI/PowerInfer

<https://repo.masters-masters.com/repos/Tiiny-AI/PowerInfer>

[Accueil](https://repo.masters-masters.com/) › [Tiiny-AI](https://repo.masters-masters.com/owners/Tiiny-AI) › [PowerInfer](https://repo.masters-masters.com/repos/Tiiny-AI/PowerInfer)

Tiiny-AI/PowerInfer, dépôt open source à 9 863 étoiles sur GitHub. Carte Stable de RepoMasters. High-speed Large Language Model Serving for Local Deployment

| Champ | Valeur |
| --- | --- |
| Propriétaire | [Tiiny-AI](https://repo.masters-masters.com/owners/Tiiny-AI) |
| Étoiles | 9 863 |
| Forks | 612 |
| Langage | [C++](https://repo.masters-masters.com/languages/c-plus-plus) |
| Licence | MIT |
| Création | 2023 |
| Sujets | large-language-models, llama, llm, llm-inference, local-inference |
| Rang | [Stable (5 000 à 19 999 ★)](https://repo.masters-masters.com/ranks/cult) |
| Voir sur GitHub | [Tiiny-AI/PowerInfer](https://github.com/Tiiny-AI/PowerInfer) |

## Fiche du dépôt

High-speed Large Language Model Serving for Local Deployment

Rang des dépôts qui ont 5 000 à 19 999 ★ sur GitHub. Probabilité publiée par carte tirée : 0,9 %. Rareté : Très rare.

## D’autres dépôts C++

- [AGWA/git-crypt · ★ 9 979 · C++ · Stable](https://repo.masters-masters.com/repos/AGWA/git-crypt)
- [diasurgical/DevilutionX · ★ 9 976 · C++ · Stable](https://repo.masters-masters.com/repos/diasurgical/DevilutionX)
- [cocos/cocos-engine · ★ 9 901 · C++ · Stable](https://repo.masters-masters.com/repos/cocos/cocos-engine)
- [owasp-modsecurity/ModSecurity · ★ 9 849 · C++ · Stable](https://repo.masters-masters.com/repos/owasp-modsecurity/ModSecurity)
- [google/re2 · ★ 9 842 · C++ · Stable](https://repo.masters-masters.com/repos/google/re2)
- [o3de/o3de · ★ 9 812 · C++ · Stable](https://repo.masters-masters.com/repos/o3de/o3de)

---
Données : GitHub · Illustration : image publique du projet, pixelisée par RepoMasters.