# usyd-fsalab/fp6\_llm

<https://repo.masters-masters.com/repos/usyd-fsalab/fp6_llm>

[Accueil](https://repo.masters-masters.com/) › [usyd-fsalab](https://repo.masters-masters.com/owners/usyd-fsalab) › [fp6\_llm](https://repo.masters-masters.com/repos/usyd-fsalab/fp6_llm)

usyd-fsalab/fp6\_llm, dépôt open source à 282 étoiles sur GitHub. Carte Alpha de RepoMasters. An efficient GPU support for LLM inference with x-bit…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [usyd-fsalab](https://repo.masters-masters.com/owners/usyd-fsalab) |
| Étoiles | 282 |
| Forks | 26 |
| Langage | [Cuda](https://repo.masters-masters.com/languages/cuda) |
| Licence | Apache-2.0 |
| Création | 2024 |
| Rang | [Alpha (250 à 699 ★)](https://repo.masters-masters.com/ranks/b_movie) |
| Voir sur GitHub | [usyd-fsalab/fp6\_llm](https://github.com/usyd-fsalab/fp6_llm) |

## Fiche du dépôt

An efficient GPU support for LLM inference with x-bit quantization (e.g. FP6,FP5).

Rang des dépôts qui ont 250 à 699 ★ sur GitHub. Probabilité publiée par carte tirée : 20 %. Rareté : Peu commune.

## D’autres dépôts Cuda

- [facebookarchive/fbcuda · ★ 284 · Cuda · Alpha](https://repo.masters-masters.com/repos/facebookarchive/fbcuda)
- [leimao/CUDA-GEMM-Optimization · ★ 283 · Cuda · Alpha](https://repo.masters-masters.com/repos/leimao/CUDA-GEMM-Optimization)
- [NVIDIA-BioNeMo/nvMolKit · ★ 282 · Cuda · Alpha](https://repo.masters-masters.com/repos/NVIDIA-BioNeMo/nvMolKit)
- [nerficg-project/faster-gaussian-splatting · ★ 278 · Cuda · Alpha](https://repo.masters-masters.com/repos/nerficg-project/faster-gaussian-splatting)
- [ColfaxResearch/cutlass-kernels · ★ 271 · Cuda · Alpha](https://repo.masters-masters.com/repos/ColfaxResearch/cutlass-kernels)
- [LitLeo/OpenCUDA · ★ 269 · Cuda · Alpha](https://repo.masters-masters.com/repos/LitLeo/OpenCUDA)

---
Données : GitHub · Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage.