# foundation-model-stack/fms-fsdp

<https://repo.masters-masters.com/repos/foundation-model-stack/fms-fsdp>

[Accueil](https://repo.masters-masters.com/) › [foundation-model-stack](https://repo.masters-masters.com/owners/foundation-model-stack) › [fms-fsdp](https://repo.masters-masters.com/repos/foundation-model-stack/fms-fsdp)

foundation-model-stack/fms-fsdp, dépôt open source à 289 étoiles sur GitHub. Carte Alpha de RepoMasters. 🚀 Efficiently (pre)training foundation models with…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [foundation-model-stack](https://repo.masters-masters.com/owners/foundation-model-stack) |
| Étoiles | 289 |
| Forks | 47 |
| Langage | [Python](https://repo.masters-masters.com/languages/python) |
| Licence | Apache-2.0 |
| Création | 2024 |
| Sujets | distributed-training, llm, pytorch |
| Rang | [Alpha (250 à 699 ★)](https://repo.masters-masters.com/ranks/b_movie) |
| Voir sur GitHub | [foundation-model-stack/fms-fsdp](https://github.com/foundation-model-stack/fms-fsdp) |

## Fiche du dépôt

🚀 Efficiently (pre)training foundation models with native PyTorch features, including FSDP for training and SDPA implementation of Flash attention v2.

Rang des dépôts qui ont 250 à 699 ★ sur GitHub. Probabilité publiée par carte tirée : 20 %. Rareté : Peu commune.

## Autres dépôts de foundation-model-stack

- [foundation-model-stack/foundation-model-stack · ★ 234 · Python · Prototype](https://repo.masters-masters.com/repos/foundation-model-stack/foundation-model-stack)
- [foundation-model-stack/fastsafetensors · ★ 181 · Python · Prototype](https://repo.masters-masters.com/repos/foundation-model-stack/fastsafetensors)
- [foundation-model-stack/bamba · ★ 140 · Python · Prototype](https://repo.masters-masters.com/repos/foundation-model-stack/bamba)

## D’autres dépôts Python

- [rokbenko/quackd · ★ 289 · Python · Alpha](https://repo.masters-masters.com/repos/rokbenko/quackd)
- [techjanitor/botmaker · ★ 289 · Python · Alpha](https://repo.masters-masters.com/repos/techjanitor/botmaker)
- [ZhFkl/resumeworkflow · ★ 289 · Python · Alpha](https://repo.masters-masters.com/repos/ZhFkl/resumeworkflow)
- [seomoz/pyreBloom · ★ 289 · Python · Alpha](https://repo.masters-masters.com/repos/seomoz/pyreBloom)
- [chikatoike/IMESupport · ★ 289 · Python · Alpha](https://repo.masters-masters.com/repos/chikatoike/IMESupport)
- [mediacloud/backend · ★ 289 · Python · Alpha](https://repo.masters-masters.com/repos/mediacloud/backend)

---
Données : GitHub · Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage.