Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
AlphaPeu commune

foundation-model-stack/fms-fsdp

🚀 Efficiently (pre)training foundation models with native PyTorch features, including FSDP for training and SDPA implementation of Flash attention v2.

Propriétaire
foundation-model-stack (organisation)
Étoiles
Étoiles : 289
Forks
Forks : 47
Langage
Python
Licence
Apache-2.0
Création
2024
Sujets
distributed-trainingllmpytorch
Rang
Alpha (250 à 699 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de foundation-model-stack

Les 4 dépôts de foundation-model-stack

D’autres dépôts Python

Tous les dépôts Python