AlphaPeu commune
vectorch-ai/ScaleLLM
A high-performance inference system for large language models, designed for production environments.
Archivé : ce dépôt n’évolue plus
- Propriétaire
- vectorch-ai (organisation)
- Étoiles
- Étoiles : 498
- Forks
- Forks : 41
- Langage
- C++
- Licence
- Apache-2.0
- Création
- 2023
- Sujets
- cudainferencellmllm-inferencemodelproductionservingspeculativetransformerefficiency
- Rang
- Alpha (250 à 699 ★) Ce que veut dire ce rang
D’autres dépôts C++
Tous les dépôts C++- keenon/nimblephysicsÉtoiles : 498C++Alpha
- anysphere/gpt-4-for-codeÉtoiles : 498C++Alpha
- JMBQ01/azurlanÉtoiles : 498C++Alpha
- openSUSE/zypperÉtoiles : 498C++Alpha
- scp-fs2open/fs2open.github.comÉtoiles : 498C++Alpha
- stxxl/stxxlÉtoiles : 498C++Alpha