AlphaPeu commune
mit-han-lab/Quest
[ICML 2024] Quest: Query-Aware Sparsity for Efficient Long-Context LLM Inference
- Propriétaire
- mit-han-lab (organisation)
- Étoiles
- Étoiles : 414
- Forks
- Forks : 50
- Langage
- Cuda
- Licence
- MIT
- Création
- 2024
- Rang
- Alpha (250 à 699 ★) Ce que veut dire ce rang
Autres dépôts de mit-han-lab
Les 53 dépôts de mit-han-lab- mit-han-lab/streaming-llmÉtoiles : 7 275PythonStable
- mit-han-lab/llm-awqÉtoiles : 3 661PythonRC
- mit-han-lab/efficientvitÉtoiles : 3 374PythonRC
- mit-han-lab/bevfusionÉtoiles : 3 235PythonRC
- mit-han-lab/temporal-shift-moduleÉtoiles : 2 229PythonRC
- mit-han-lab/once-for-allÉtoiles : 1 957PythonBêta
D’autres dépôts Cuda
Tous les dépôts Cuda- QINZHAOYU/CudaStepsÉtoiles : 428CudaAlpha
- MooreThreads/LiteGSÉtoiles : 427CudaAlpha
- kwea123/pytorch-cppcuda-tutorialÉtoiles : 422CudaAlpha
- ifromeast/cuda_learningÉtoiles : 410CudaAlpha
- 1zb/deformable-convolution-pytorchÉtoiles : 409CudaAlpha
- nosferalatu/SimpleGPUHashTableÉtoiles : 408CudaAlpha