RCÉpique
FasterDecoding/Medusa
Medusa: Simple Framework for Accelerating LLM Generation with Multiple Decoding Heads
- Propriétaire
- FasterDecoding (organisation)
- Étoiles
- Étoiles : 2 774
- Forks
- Forks : 206
- Langage
- Jupyter Notebook
- Licence
- Apache-2.0
- Création
- 2023
- Sujets
- llmllm-inference
- Rang
- RC (2 000 à 4 999 ★) Ce que veut dire ce rang
Autres dépôts de FasterDecoding
Les 5 dépôts de FasterDecoding- FasterDecoding/SnapKVÉtoiles : 336PythonAlpha
- FasterDecoding/RESTÉtoiles : 220CPrototype
- FasterDecoding/BitDeltaÉtoiles : 207Jupyter NotebookPrototype
- FasterDecoding/TEALÉtoiles : 173PythonPrototype
D’autres dépôts Jupyter Notebook
Tous les dépôts Jupyter Notebook- imanoop7/Ollama-OCRÉtoiles : 2 786Jupyter NotebookRC
- Visualize-ML/Book6_First-Course-in-Data-ScienceÉtoiles : 2 785Jupyter NotebookRC
- FurkanGozukara/Stable-DiffusionÉtoiles : 2 780Jupyter NotebookRC
- FranxYao/chain-of-thought-hubÉtoiles : 2 773Jupyter NotebookRC
- AllenDowney/ThinkPythonÉtoiles : 2 766Jupyter NotebookRC
- huggingface/cookbookÉtoiles : 2 758Jupyter NotebookRC