RCÉpique
b4rtaz/distributed-llama
Distributed LLM inference. Connect home devices into a powerful cluster to accelerate LLM inference. More devices means faster inference.
- Propriétaire
- b4rtaz (compte personnel)
- Étoiles
- Étoiles : 3 125
- Forks
- Forks : 260
- Langage
- C++
- Licence
- MIT
- Création
- 2023
- Sujets
- distributed-computingllama2llmllm-inferenceneural-networkllmsopen-llmdistributed-llmllama3
- Rang
- RC (2 000 à 4 999 ★) Ce que veut dire ce rang
Autres dépôts de b4rtaz
Les 3 dépôts de b4rtaz- b4rtaz/voice-assistantÉtoiles : 295TypeScriptAlpha
- b4rtaz/t3mpl-editorÉtoiles : 171TypeScriptPrototype
D’autres dépôts C++
Tous les dépôts C++- ChaiScript/ChaiScriptÉtoiles : 3 133C++RC
- lynckia/licodeÉtoiles : 3 132C++RC
- xiaoyifang/goldendict-ngÉtoiles : 3 132C++RC
- ZDoom/gzdoomÉtoiles : 3 123C++RC
- xbpeng/DeepMimicÉtoiles : 3 120C++RC
- lammps/lammpsÉtoiles : 3 119C++RC