BêtaRare
efeslab/Nanoflow
A throughput-oriented high-performance serving framework for LLMs
- Propriétaire
- efeslab (organisation)
- Étoiles
- Étoiles : 976
- Forks
- Forks : 55
- Langage
- Jupyter Notebook
- Licence
- Aucune
- Création
- 2024
- Sujets
- cudainferencellama2llmllm-servingmodel-serving
- Rang
- Bêta (700 à 1 999 ★) Ce que veut dire ce rang
Autres dépôts de efeslab
Les 4 dépôts de efeslab- efeslab/AtomÉtoiles : 350CudaAlpha
- efeslab/fiddlerÉtoiles : 267PythonAlpha
- efeslab/LiteASRÉtoiles : 160PythonPrototype
D’autres dépôts Jupyter Notebook
Tous les dépôts Jupyter Notebook- tuanavu/airflow-tutorialÉtoiles : 978Jupyter NotebookBêta
- mxrch/penglabÉtoiles : 978Jupyter NotebookBêta
- tamlhp/awesome-machine-unlearningÉtoiles : 976Jupyter NotebookBêta
- salesforce/OmniXAIÉtoiles : 975Jupyter NotebookBêta
- ECNU-ICALK/EduChatÉtoiles : 975Jupyter NotebookBêta
- vega/falconÉtoiles : 974Jupyter NotebookBêta