# vllm-project/vllm

<https://repo.masters-masters.com/repos/vllm-project/vllm>

[Accueil](https://repo.masters-masters.com/) › [vllm-project](https://repo.masters-masters.com/owners/vllm-project) › [vllm](https://repo.masters-masters.com/repos/vllm-project/vllm)

vllm-project/vllm, dépôt open source à 96 179 étoiles sur GitHub. Carte LTS de RepoMasters. A high-throughput and memory-efficient inference and serving…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [vllm-project](https://repo.masters-masters.com/owners/vllm-project) |
| Étoiles | 96 179 |
| Forks | 24 329 |
| Langage | [Python](https://repo.masters-masters.com/languages/python) |
| Licence | Apache-2.0 |
| Création | 2023 |
| Sujets | gpt, llm, pytorch, model-serving, transformer, llm-serving, inference, llama, amd, cuda |
| Rang | [LTS (20 000 ★ et plus)](https://repo.masters-masters.com/ranks/masterpiece) |
| Voir sur GitHub | [vllm-project/vllm](https://github.com/vllm-project/vllm) |

## Fiche du dépôt

A high-throughput and memory-efficient inference and serving engine for LLMs

Rang des dépôts qui ont 20 000 ★ et plus sur GitHub. Probabilité publiée par carte tirée : 0,1 %. Rareté : Légendaire.

## Autres dépôts de vllm-project

- [vllm-project/vllm-omni · ★ 7 503 · Python · Stable](https://repo.masters-masters.com/repos/vllm-project/vllm-omni)
- [vllm-project/semantic-router · ★ 6 385 · Go · Stable](https://repo.masters-masters.com/repos/vllm-project/semantic-router)
- [vllm-project/aibrix · ★ 5 177 · Go · Stable](https://repo.masters-masters.com/repos/vllm-project/aibrix)
- [vllm-project/llm-compressor · ★ 3 941 · Python · RC](https://repo.masters-masters.com/repos/vllm-project/llm-compressor)
- [vllm-project/vllm-ascend · ★ 3 040 · Python · RC](https://repo.masters-masters.com/repos/vllm-project/vllm-ascend)
- [vllm-project/production-stack · ★ 2 705 · Python · RC](https://repo.masters-masters.com/repos/vllm-project/production-stack)

## D’autres dépôts Python

- [karpathy/autoresearch · ★ 99 125 · Python · LTS](https://repo.masters-masters.com/repos/karpathy/autoresearch)
- [nvbn/thefuck · ★ 97 938 · Python · LTS](https://repo.masters-masters.com/repos/nvbn/thefuck)
- [hacksider/Deep-Live-Cam · ★ 97 552 · Python · LTS](https://repo.masters-masters.com/repos/hacksider/Deep-Live-Cam)
- [3b1b/manim · ★ 96 027 · Python · LTS](https://repo.masters-masters.com/repos/3b1b/manim)
- [sherlock-project/sherlock · ★ 95 454 · Python · LTS](https://repo.masters-masters.com/repos/sherlock-project/sherlock)
- [odysseus-dev/odysseus · ★ 94 966 · Python · LTS](https://repo.masters-masters.com/repos/odysseus-dev/odysseus)

---
Données : GitHub · Illustration : image publique du projet, pixelisée par RepoMasters.