# xorbitsai/inference

<https://repo.masters-masters.com/repos/xorbitsai/inference>

[Accueil](https://repo.masters-masters.com/) › [xorbitsai](https://repo.masters-masters.com/owners/xorbitsai) › [inference](https://repo.masters-masters.com/repos/xorbitsai/inference)

xorbitsai/inference, dépôt open source à 9 638 étoiles sur GitHub. Carte Stable de RepoMasters. Swap GPT for any LLM by changing a single line of code…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [xorbitsai](https://repo.masters-masters.com/owners/xorbitsai) |
| Étoiles | 9 638 |
| Forks | 892 |
| Langage | [Python](https://repo.masters-masters.com/languages/python) |
| Licence | Apache-2.0 |
| Création | 2023 |
| Sujets | pytorch, llm, artificial-intelligence, machine-learning, whisper, inference, openai-api, gemma, llamacpp, vllm |
| Rang | [Stable (5 000 à 19 999 ★)](https://repo.masters-masters.com/ranks/cult) |
| Voir sur GitHub | [xorbitsai/inference](https://github.com/xorbitsai/inference) |

## Fiche du dépôt

Swap GPT for any LLM by changing a single line of code. Xinference lets you run open-source, speech, and multimodal models on cloud, on-prem, or your laptop — all through one unified, production-ready inference API.

Rang des dépôts qui ont 5 000 à 19 999 ★ sur GitHub. Probabilité publiée par carte tirée : 0,9 %. Rareté : Très rare.

## Autres dépôts de xorbitsai

- [xorbitsai/xorbits · ★ 1 198 · Python · Bêta](https://repo.masters-masters.com/repos/xorbitsai/xorbits)
- [xorbitsai/xagent · ★ 307 · Python · Alpha](https://repo.masters-masters.com/repos/xorbitsai/xagent)
- [xorbitsai/xoscar · ★ 177 · Python · Prototype](https://repo.masters-masters.com/repos/xorbitsai/xoscar)

## D’autres dépôts Python

- [wangshub/Douyin-Bot · ★ 9 656 · Python · Stable](https://repo.masters-masters.com/repos/wangshub/Douyin-Bot)
- [polakowo/vectorbt · ★ 9 651 · Python · Stable](https://repo.masters-masters.com/repos/polakowo/vectorbt)
- [apify/crawlee-python · ★ 9 638 · Python · Stable](https://repo.masters-masters.com/repos/apify/crawlee-python)
- [AirtestProject/Airtest · ★ 9 633 · Python · Stable](https://repo.masters-masters.com/repos/AirtestProject/Airtest)
- [arogozhnikov/einops · ★ 9 630 · Python · Stable](https://repo.masters-masters.com/repos/arogozhnikov/einops)
- [PeterL1n/RobustVideoMatting · ★ 9 586 · Python · Stable](https://repo.masters-masters.com/repos/PeterL1n/RobustVideoMatting)

---
Données : GitHub · Illustration : image publique du projet, pixelisée par RepoMasters.