PrototypeCommune
VectorInstitute/vector-inference
Efficient LLM inference on Slurm clusters.
- Propriétaire
- VectorInstitute (organisation)
- Étoiles
- Étoiles : 110
- Forks
- Forks : 14
- Langage
- Python
- Licence
- Apache-2.0
- Création
- 2024
- Sujets
- inferencetext-embeddingvllmvlmllm-infernecellm-infrastructuremultimodalreward-modelsglangaudio-transcription
- Rang
- Prototype (100 à 249 ★) Ce que veut dire ce rang
Autres dépôts de VectorInstitute
Les 2 dépôts de VectorInstitute- VectorInstitute/fed-ragÉtoiles : 150PythonPrototype
D’autres dépôts Python
Tous les dépôts Python- YvanQian/mcd-catering-officerÉtoiles : 110PythonPrototype
- CH-LaTiao/lumina-guideÉtoiles : 110PythonPrototype
- BlueKnightNet/Blue-Knight-Proxy-BotHostingÉtoiles : 110PythonPrototype
- turian/textSNEÉtoiles : 110PythonPrototype
- denied/deniedÉtoiles : 110PythonPrototype
- eagleflo/mpyqÉtoiles : 110PythonPrototype