Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
BêtaRare

Tebmer/Awesome-Knowledge-Distillation-of-LLMs

This repository collects papers for "A Survey on Knowledge Distillation of Large Language Models". We break down KD into Knowledge Elicitation and Distillation Algorithms, and explore the Skill & Vertical Distillation of LLMs.

Propriétaire
Tebmer (compte personnel)
Étoiles
Étoiles : 1 318
Forks
Forks : 76
Langage
Sans langage
Licence
Aucune
Création
2024
Sujets
data-augmentationinstruction-followingkdknowledge-distillationlarge-language-modelllmself-trainingsurveycompressiondata-synthesis
Rang
Bêta (700 à 1 999 ★) Ce que veut dire ce rang
Voir sur GitHub