# vectorch-ai/ScaleLLM

<https://repo.masters-masters.com/repos/vectorch-ai/ScaleLLM>

[Accueil](https://repo.masters-masters.com/) › [vectorch-ai](https://repo.masters-masters.com/owners/vectorch-ai) › [ScaleLLM](https://repo.masters-masters.com/repos/vectorch-ai/ScaleLLM)

vectorch-ai/ScaleLLM, dépôt open source à 498 étoiles sur GitHub. Carte Alpha de RepoMasters. A high-performance inference system for large language models…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [vectorch-ai](https://repo.masters-masters.com/owners/vectorch-ai) |
| Étoiles | 498 |
| Forks | 41 |
| Langage | [C++](https://repo.masters-masters.com/languages/c-plus-plus) |
| Licence | Apache-2.0 |
| Création | 2023 |
| Sujets | cuda, inference, llm, llm-inference, model, production, serving, speculative, transformer, efficiency |
| Rang | [Alpha (250 à 699 ★)](https://repo.masters-masters.com/ranks/b_movie) |
| Voir sur GitHub | [vectorch-ai/ScaleLLM](https://github.com/vectorch-ai/ScaleLLM) |

## Fiche du dépôt

A high-performance inference system for large language models, designed for production environments.

Archivé : ce dépôt n’évolue plus

Rang des dépôts qui ont 250 à 699 ★ sur GitHub. Probabilité publiée par carte tirée : 20 %. Rareté : Peu commune.

## D’autres dépôts C++

- [keenon/nimblephysics · ★ 498 · C++ · Alpha](https://repo.masters-masters.com/repos/keenon/nimblephysics)
- [anysphere/gpt-4-for-code · ★ 498 · C++ · Alpha](https://repo.masters-masters.com/repos/anysphere/gpt-4-for-code)
- [rashevskyv/4IFIR · ★ 498 · C++ · Alpha](https://repo.masters-masters.com/repos/rashevskyv/4IFIR)
- [stxxl/stxxl · ★ 498 · C++ · Alpha](https://repo.masters-masters.com/repos/stxxl/stxxl)
- [mariadb-corporation/galera · ★ 498 · C++ · Alpha](https://repo.masters-masters.com/repos/mariadb-corporation/galera)
- [MAPIRlab/rf2o\_laser\_odometry · ★ 498 · C++ · Alpha](https://repo.masters-masters.com/repos/MAPIRlab/rf2o_laser_odometry)

---
Données : GitHub · Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage.