Illustration : image publique du projet, pixelisée par RepoMasters. Crédits
BêtaRare

alibaba/rtp-llm

RTP-LLM: Alibaba's high-performance LLM inference engine for diverse applications.

Propriétaire
alibaba (organisation)
Étoiles
Étoiles : 1 386
Forks
Forks : 296
Langage
Python
Licence
Apache-2.0
Création
2023
Sujets
gptinferencellamallmllm-servingllmopsmodel-serving
Rang
Bêta (700 à 1 999 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de alibaba

Les 292 dépôts de alibaba

D’autres dépôts Python

Tous les dépôts Python