AlphaPeu commune
microsoft/sarathi-serve
A low-latency & high-throughput serving engine for LLMs
- Propriétaire
- microsoft (organisation)
- Étoiles
- Étoiles : 535
- Forks
- Forks : 68
- Langage
- Python
- Licence
- Apache-2.0
- Création
- 2023
- Sujets
- llamallm-inferencepytorchtransformer
- Rang
- Alpha (250 à 699 ★) Ce que veut dire ce rang
Autres dépôts de microsoft
Les 1 923 dépôts de microsoft- microsoft/vscodeÉtoiles : 194 462TypeScriptLTS
- microsoft/markitdownÉtoiles : 193 456PythonLTS
- microsoft/PowerToysÉtoiles : 140 398CLTS
- microsoft/generative-ai-for-beginnersÉtoiles : 122 788Jupyter NotebookLTS
- microsoft/TypeScriptÉtoiles : 111 714GoLTS
- microsoft/terminalÉtoiles : 105 311C++LTS
D’autres dépôts Python
Tous les dépôts Python- InternLM/WildClawBenchÉtoiles : 535PythonAlpha
- stormzhang/token-trackerÉtoiles : 535PythonAlpha
- davidondrej/jailbreak-autoresearchÉtoiles : 535PythonAlpha
- paulnasca/paulstretch_pythonÉtoiles : 535PythonAlpha
- cgoldberg/ystockquoteÉtoiles : 535PythonAlpha
- EiNSTeiN-/decompilerÉtoiles : 535PythonAlpha