Illustration : image publique du projet, pixelisée par RepoMasters. Crédits
BêtaRare

pjlab-sys4nlp/llama-moe

⛷️ LLaMA-MoE: Building Mixture-of-Experts from LLaMA with Continual Pre-training (EMNLP 2024)

Propriétaire
pjlab-sys4nlp (organisation)
Étoiles
Étoiles : 1 004
Forks
Forks : 60
Langage
Python
Licence
Apache-2.0
Création
2023
Sujets
llamallmmixture-of-expertsmoecontinual-pre-trainingexpert-partition
Rang
Bêta (700 à 1 999 ★) Ce que veut dire ce rang
Voir sur GitHub

D’autres dépôts Python

Tous les dépôts Python