# VectorInstitute/vector-inference

<https://repo.masters-masters.com/repos/VectorInstitute/vector-inference>

[Accueil](https://repo.masters-masters.com/) › [VectorInstitute](https://repo.masters-masters.com/owners/VectorInstitute) › [vector-inference](https://repo.masters-masters.com/repos/VectorInstitute/vector-inference)

VectorInstitute/vector-inference, dépôt open source à 110 étoiles sur GitHub. Carte Prototype de RepoMasters. Efficient LLM inference on Slurm clusters.

| Champ | Valeur |
| --- | --- |
| Propriétaire | [VectorInstitute](https://repo.masters-masters.com/owners/VectorInstitute) |
| Étoiles | 110 |
| Forks | 14 |
| Langage | [Python](https://repo.masters-masters.com/languages/python) |
| Licence | Apache-2.0 |
| Création | 2024 |
| Sujets | inference, text-embedding, vllm, vlm, llm-infernece, llm-infrastructure, multimodal, reward-model, sglang, audio-transcription |
| Rang | [Prototype (100 à 249 ★)](https://repo.masters-masters.com/ranks/rush) |
| Voir sur GitHub | [VectorInstitute/vector-inference](https://github.com/VectorInstitute/vector-inference) |

## Fiche du dépôt

Efficient LLM inference on Slurm clusters.

Rang des dépôts qui ont 100 à 249 ★ sur GitHub. Probabilité publiée par carte tirée : 70 %. Rareté : Commune.

## Autres dépôts de VectorInstitute

- [VectorInstitute/fed-rag · ★ 150 · Python · Prototype](https://repo.masters-masters.com/repos/VectorInstitute/fed-rag)

## D’autres dépôts Python

- [YvanQian/mcd-catering-officer · ★ 110 · Python · Prototype](https://repo.masters-masters.com/repos/YvanQian/mcd-catering-officer)
- [CH-LaTiao/lumina-guide · ★ 110 · Python · Prototype](https://repo.masters-masters.com/repos/CH-LaTiao/lumina-guide)
- [BlueKnightNet/Blue-Knight-Proxy-BotHosting · ★ 110 · Python · Prototype](https://repo.masters-masters.com/repos/BlueKnightNet/Blue-Knight-Proxy-BotHosting)
- [turian/textSNE · ★ 110 · Python · Prototype](https://repo.masters-masters.com/repos/turian/textSNE)
- [denied/denied · ★ 110 · Python · Prototype](https://repo.masters-masters.com/repos/denied/denied)
- [eagleflo/mpyq · ★ 110 · Python · Prototype](https://repo.masters-masters.com/repos/eagleflo/mpyq)

---
Données : GitHub · Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage.