# bigscience-workshop/Megatron-DeepSpeed

<https://repo.masters-masters.com/repos/bigscience-workshop/Megatron-DeepSpeed>

[Accueil](https://repo.masters-masters.com/) › [bigscience-workshop](https://repo.masters-masters.com/owners/bigscience-workshop) › [Megatron-DeepSpeed](https://repo.masters-masters.com/repos/bigscience-workshop/Megatron-DeepSpeed)

bigscience-workshop/Megatron-DeepSpeed, dépôt open source à 1 449 étoiles sur GitHub. Carte Bêta de RepoMasters. Ongoing research training transformer…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [bigscience-workshop](https://repo.masters-masters.com/owners/bigscience-workshop) |
| Étoiles | 1 449 |
| Forks | 225 |
| Langage | [Python](https://repo.masters-masters.com/languages/python) |
| Licence | Aucune |
| Création | 2021 |
| Rang | [Bêta (700 à 1 999 ★)](https://repo.masters-masters.com/ranks/box_office) |
| Voir sur GitHub | [bigscience-workshop/Megatron-DeepSpeed](https://github.com/bigscience-workshop/Megatron-DeepSpeed) |

## Fiche du dépôt

Ongoing research training transformer language models at scale, including: BERT & GPT-2

Rang des dépôts qui ont 700 à 1 999 ★ sur GitHub. Probabilité publiée par carte tirée : 6 %. Rareté : Rare.

## Autres dépôts de bigscience-workshop

- [bigscience-workshop/petals · ★ 10 678 · Python · Stable](https://repo.masters-masters.com/repos/bigscience-workshop/petals)
- [bigscience-workshop/promptsource · ★ 3 042 · Python · RC](https://repo.masters-masters.com/repos/bigscience-workshop/promptsource)
- [bigscience-workshop/bigscience · ★ 1 020 · Shell · Bêta](https://repo.masters-masters.com/repos/bigscience-workshop/bigscience)
- [bigscience-workshop/xmtf · ★ 534 · Jupyter Notebook · Alpha](https://repo.masters-masters.com/repos/bigscience-workshop/xmtf)
- [bigscience-workshop/biomedical · ★ 507 · Python · Alpha](https://repo.masters-masters.com/repos/bigscience-workshop/biomedical)
- [bigscience-workshop/t-zero · ★ 463 · Python · Alpha](https://repo.masters-masters.com/repos/bigscience-workshop/t-zero)

## D’autres dépôts Python

- [dleemiller/WordLlama · ★ 1 450 · Python · Bêta](https://repo.masters-masters.com/repos/dleemiller/WordLlama)
- [oddcod3/Phantom-Evasion · ★ 1 449 · Python · Bêta](https://repo.masters-masters.com/repos/oddcod3/Phantom-Evasion)
- [keredson/gnomecast · ★ 1 449 · Python · Bêta](https://repo.masters-masters.com/repos/keredson/gnomecast)
- [bojone/attention · ★ 1 448 · Python · Bêta](https://repo.masters-masters.com/repos/bojone/attention)
- [megvii-research/ML-GCN · ★ 1 448 · Python · Bêta](https://repo.masters-masters.com/repos/megvii-research/ML-GCN)

---
Données : GitHub · Illustration : image publique du projet, pixelisée par RepoMasters.
