Illustration : image publique du projet, pixelisée par RepoMasters. Crédits
BêtaRare

AviSoori1x/makeMoE

From scratch implementation of a sparse mixture of experts language model inspired by Andrej Karpathy's makemore :)

Propriétaire
AviSoori1x (compte personnel)
Étoiles
Étoiles : 820
Forks
Forks : 96
Langage
Jupyter Notebook
Licence
MIT
Création
2024
Sujets
large-language-modelsllmmixture-of-expertsdeep-learningneural-networkspytorchpytorch-implementation
Rang
Bêta (700 à 1 999 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de AviSoori1x

Les 2 dépôts de AviSoori1x

D’autres dépôts Jupyter Notebook

Tous les dépôts Jupyter Notebook