AlphaPeu commune
usyd-fsalab/fp6_llm
An efficient GPU support for LLM inference with x-bit quantization (e.g. FP6,FP5).
- Propriétaire
- usyd-fsalab (organisation)
- Étoiles
- Étoiles : 282
- Forks
- Forks : 26
- Langage
- Cuda
- Licence
- Apache-2.0
- Création
- 2024
- Rang
- Alpha (250 à 699 ★) Ce que veut dire ce rang
D’autres dépôts Cuda
Tous les dépôts Cuda- facebookarchive/fbcudaÉtoiles : 284CudaAlpha
- leimao/CUDA-GEMM-OptimizationÉtoiles : 284CudaAlpha
- NVIDIA-BioNeMo/nvMolKitÉtoiles : 282CudaAlpha
- nerficg-project/faster-gaussian-splattingÉtoiles : 278CudaAlpha
- ColfaxResearch/cutlass-kernelsÉtoiles : 271CudaAlpha
- LitLeo/OpenCUDAÉtoiles : 269CudaAlpha