# microsoft/MInference

<https://repo.masters-masters.com/repos/microsoft/MInference>

[Accueil](https://repo.masters-masters.com/) › [microsoft](https://repo.masters-masters.com/owners/microsoft) › [MInference](https://repo.masters-masters.com/repos/microsoft/MInference)

microsoft/MInference, dépôt open source à 1 231 étoiles sur GitHub. Carte Bêta de RepoMasters. \[NeurIPS'24 Spotlight, ICLR'25, ICML'25\] To speed up…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [microsoft](https://repo.masters-masters.com/owners/microsoft) |
| Étoiles | 1 231 |
| Forks | 84 |
| Langage | [Python](https://repo.masters-masters.com/languages/python) |
| Licence | MIT |
| Création | 2024 |
| Rang | [Bêta (700 à 1 999 ★)](https://repo.masters-masters.com/ranks/box_office) |
| Voir sur GitHub | [microsoft/MInference](https://github.com/microsoft/MInference) |

## Fiche du dépôt

\[NeurIPS'24 Spotlight, ICLR'25, ICML'25\] To speed up Long-context LLMs' inference, approximate and dynamic sparse calculate the attention, which reduces inference latency by up to 10x for pre-filling on an A100 while maintaining accuracy.

Rang des dépôts qui ont 700 à 1 999 ★ sur GitHub. Probabilité publiée par carte tirée : 6 %. Rareté : Rare.

## Autres dépôts de microsoft

- [microsoft/vscode · ★ 194 428 · TypeScript · LTS](https://repo.masters-masters.com/repos/microsoft/vscode)
- [microsoft/markitdown · ★ 193 282 · Python · LTS](https://repo.masters-masters.com/repos/microsoft/markitdown)
- [microsoft/PowerToys · ★ 140 362 · C · LTS](https://repo.masters-masters.com/repos/microsoft/PowerToys)
- [microsoft/generative-ai-for-beginners · ★ 122 672 · Jupyter Notebook · LTS](https://repo.masters-masters.com/repos/microsoft/generative-ai-for-beginners)
- [microsoft/TypeScript · ★ 111 706 · Go · LTS](https://repo.masters-masters.com/repos/microsoft/TypeScript)
- [microsoft/terminal · ★ 105 300 · C++ · LTS](https://repo.masters-masters.com/repos/microsoft/terminal)

## D’autres dépôts Python

- [taranis-ai/taranis-ai · ★ 1 231 · Python · Bêta](https://repo.masters-masters.com/repos/taranis-ai/taranis-ai)
- [LifeArchiveProject/HistoryHub · ★ 1 231 · Python · Bêta](https://repo.masters-masters.com/repos/LifeArchiveProject/HistoryHub)
- [refreshdotdev/web-eval-agent · ★ 1 231 · Python · Bêta](https://repo.masters-masters.com/repos/refreshdotdev/web-eval-agent)
- [asciidisco/plugin.video.netflix · ★ 1 231 · Python · Bêta](https://repo.masters-masters.com/repos/asciidisco/plugin.video.netflix)
- [python-adaptive/adaptive · ★ 1 231 · Python · Bêta](https://repo.masters-masters.com/repos/python-adaptive/adaptive)
- [qubvel/classification\_models · ★ 1 231 · Python · Bêta](https://repo.masters-masters.com/repos/qubvel/classification_models)

---
Données : GitHub · Illustration : image publique du projet, pixelisée par RepoMasters.