# microsoft/batch-inference

<https://repo.masters-masters.com/repos/microsoft/batch-inference>

[Accueil](https://repo.masters-masters.com/) › [microsoft](https://repo.masters-masters.com/owners/microsoft) › [batch-inference](https://repo.masters-masters.com/repos/microsoft/batch-inference)

microsoft/batch-inference, dépôt open source à 106 étoiles sur GitHub. Carte Prototype de RepoMasters. Dynamic batching library for Deep Learning inference…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [microsoft](https://repo.masters-masters.com/owners/microsoft) |
| Étoiles | 106 |
| Forks | 6 |
| Langage | [Python](https://repo.masters-masters.com/languages/python) |
| Licence | MIT |
| Création | 2023 |
| Sujets | deep-learning, inference, performance-optimization, dynamic-batching, python, gpt, llm |
| Rang | [Prototype (100 à 249 ★)](https://repo.masters-masters.com/ranks/rush) |
| Voir sur GitHub | [microsoft/batch-inference](https://github.com/microsoft/batch-inference) |

## Fiche du dépôt

Dynamic batching library for Deep Learning inference. Tutorials for LLM, GPT scenarios.

Rang des dépôts qui ont 100 à 249 ★ sur GitHub. Probabilité publiée par carte tirée : 70 %. Rareté : Commune.

## Autres dépôts de microsoft

- [microsoft/vscode · ★ 194 462 · TypeScript · LTS](https://repo.masters-masters.com/repos/microsoft/vscode)
- [microsoft/markitdown · ★ 193 456 · Python · LTS](https://repo.masters-masters.com/repos/microsoft/markitdown)
- [microsoft/PowerToys · ★ 140 398 · C · LTS](https://repo.masters-masters.com/repos/microsoft/PowerToys)
- [microsoft/generative-ai-for-beginners · ★ 122 788 · Jupyter Notebook · LTS](https://repo.masters-masters.com/repos/microsoft/generative-ai-for-beginners)
- [microsoft/TypeScript · ★ 111 714 · Go · LTS](https://repo.masters-masters.com/repos/microsoft/TypeScript)
- [microsoft/terminal · ★ 105 311 · C++ · LTS](https://repo.masters-masters.com/repos/microsoft/terminal)

## D’autres dépôts Python

- [Ta0p1/ResolveLab · ★ 106 · Python · Prototype](https://repo.masters-masters.com/repos/Ta0p1/ResolveLab)
- [PlusF666/mctaste-lab · ★ 106 · Python · Prototype](https://repo.masters-masters.com/repos/PlusF666/mctaste-lab)
- [sdua078/teleopro · ★ 106 · Python · Prototype](https://repo.masters-masters.com/repos/sdua078/teleopro)
- [mkelly12/google\_closure\_compiler · ★ 106 · Python · Prototype](https://repo.masters-masters.com/repos/mkelly12/google_closure_compiler)
- [alex/django-admin-histograms · ★ 106 · Python · Prototype](https://repo.masters-masters.com/repos/alex/django-admin-histograms)
- [bretth/woven · ★ 106 · Python · Prototype](https://repo.masters-masters.com/repos/bretth/woven)

---
Données : GitHub · Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage.