Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
AlphaPeu commune

feifeibear/long-context-attention

USP: Unified (a.k.a. Hybrid, 2D) Sequence Parallel Attention for Long Context Transformers Model Training and Inference

Propriétaire
feifeibear (compte personnel)
Étoiles
Étoiles : 696
Forks
Forks : 87
Langage
Python
Licence
Apache-2.0
Création
2024
Sujets
attention-is-all-you-needllm-inferencellm-trainingpytorchring-attentiondeepspeed-ulysses
Rang
Alpha (250 à 699 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de feifeibear

Les 3 dépôts de feifeibear

D’autres dépôts Python

Tous les dépôts Python