StableTrès rare
flashinfer-ai/flashinfer
FlashInfer: Kernel Library for LLM Serving
- Propriétaire
- flashinfer-ai (organisation)
- Étoiles
- Étoiles : 6 832
- Forks
- Forks : 1 684
- Langage
- Cuda
- Licence
- Apache-2.0
- Création
- 2023
- Sujets
- gpularge-large-modelscudapytorchllm-inferencejitattentionnvidiadistributed-inferencemoe
- Rang
- Stable (5 000 à 19 999 ★) Ce que veut dire ce rang
Autres dépôts de flashinfer-ai
Les 3 dépôts de flashinfer-ai- flashinfer-ai/flashinfer-benchÉtoiles : 301PythonAlpha
- flashinfer-ai/flashinfer-bench-starter-kitÉtoiles : 186PythonPrototype
D’autres dépôts Cuda
Tous les dépôts Cuda- HigherOrderCO/HVM1Étoiles : 11 353CudaStable
- deepseek-ai/DeepEPÉtoiles : 10 402CudaStable
- deepseek-ai/DeepGEMMÉtoiles : 9 142CudaStable
- luanfujun/deep-painterly-harmonizationÉtoiles : 6 034CudaStable
- leoxiaobin/deep-high-resolution-net.pytorchÉtoiles : 4 477CudaRC
- Infatoshi/cuda-courseÉtoiles : 4 165CudaRC