PrototypeCommune
OpenBMB/CPM.cu
CPM.cu is a lightweight, high-performance CUDA implementation for LLMs, optimized for end-device inference and featuring cutting-edge techniques in sparse architecture, speculative sampling and quantization.
- Propriétaire
- OpenBMB (organisation)
- Étoiles
- Étoiles : 243
- Forks
- Forks : 27
- Langage
- Cuda
- Licence
- Apache-2.0
- Création
- 2025
- Rang
- Prototype (100 à 249 ★) Ce que veut dire ce rang
Autres dépôts de OpenBMB
Les 50 dépôts de OpenBMB- OpenBMB/VoxCPMÉtoiles : 40 926PythonLTS
- OpenBMB/ChatDevÉtoiles : 34 634PythonLTS
- OpenBMB/MiniCPM-VÉtoiles : 27 045PythonLTS
- OpenBMB/MiniCPMÉtoiles : 11 772Jupyter NotebookStable
- OpenBMB/XAgentÉtoiles : 8 550PythonStable
- OpenBMB/ToolBenchÉtoiles : 5 763PythonStable
D’autres dépôts Cuda
Tous les dépôts Cuda- ZaidQureshi/bamÉtoiles : 249CudaPrototype
- AlibabaResearch/flash-llmÉtoiles : 246CudaPrototype
- rahul-goel/fused-ssimÉtoiles : 245CudaPrototype
- vernamlab/cuFHEÉtoiles : 240CudaPrototype
- HenryNdubuaku/cuda-tutorialsÉtoiles : 239CudaPrototype
- layumi/Pedestrian_AlignmentÉtoiles : 238CudaPrototype