# EricLBuehler/candle-vllm

<https://repo.masters-masters.com/repos/EricLBuehler/candle-vllm>

[Accueil](https://repo.masters-masters.com/) › [EricLBuehler](https://repo.masters-masters.com/owners/EricLBuehler) › [candle-vllm](https://repo.masters-masters.com/repos/EricLBuehler/candle-vllm)

EricLBuehler/candle-vllm, dépôt open source à 740 étoiles sur GitHub. Carte Bêta de RepoMasters. Efficent platform for inference and serving local LLMs…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [EricLBuehler](https://repo.masters-masters.com/owners/EricLBuehler) |
| Étoiles | 740 |
| Forks | 91 |
| Langage | [Rust](https://repo.masters-masters.com/languages/rust) |
| Licence | MIT |
| Création | 2023 |
| Rang | [Bêta (700 à 1 999 ★)](https://repo.masters-masters.com/ranks/box_office) |
| Voir sur GitHub | [EricLBuehler/candle-vllm](https://github.com/EricLBuehler/candle-vllm) |

## Fiche du dépôt

Efficent platform for inference and serving local LLMs including an OpenAI compatible API server.

Rang des dépôts qui ont 700 à 1 999 ★ sur GitHub. Probabilité publiée par carte tirée : 6 %. Rareté : Rare.

## Autres dépôts de EricLBuehler

- [EricLBuehler/mistral.rs · ★ 7 796 · Rust · Stable](https://repo.masters-masters.com/repos/EricLBuehler/mistral.rs)
- [EricLBuehler/xlora · ★ 284 · Python · Alpha](https://repo.masters-masters.com/repos/EricLBuehler/xlora)
- [EricLBuehler/candle-lora · ★ 177 · Rust · Prototype](https://repo.masters-masters.com/repos/EricLBuehler/candle-lora)
- [EricLBuehler/diffusion-rs · ★ 130 · Rust · Prototype](https://repo.masters-masters.com/repos/EricLBuehler/diffusion-rs)

## D’autres dépôts Rust

- [zavora-ai/adk-rust · ★ 740 · Rust · Bêta](https://repo.masters-masters.com/repos/zavora-ai/adk-rust)
- [zibo-chen/SubnetDesk · ★ 740 · Rust · Bêta](https://repo.masters-masters.com/repos/zibo-chen/SubnetDesk)
- [sahenjp/RustXNG · ★ 740 · Rust · Bêta](https://repo.masters-masters.com/repos/sahenjp/RustXNG)
- [marshallpierce/rust-base64 · ★ 740 · Rust · Bêta](https://repo.masters-masters.com/repos/marshallpierce/rust-base64)
- [KSXGitHub/parallel-disk-usage · ★ 740 · Rust · Bêta](https://repo.masters-masters.com/repos/KSXGitHub/parallel-disk-usage)
- [LaihoE/demoparser · ★ 740 · Rust · Bêta](https://repo.masters-masters.com/repos/LaihoE/demoparser)

---
Données : GitHub · Illustration : image publique du projet, pixelisée par RepoMasters.