# feifeibear/long-context-attention

<https://repo.masters-masters.com/repos/feifeibear/long-context-attention>

[Accueil](https://repo.masters-masters.com/) › [feifeibear](https://repo.masters-masters.com/owners/feifeibear) › [long-context-attention](https://repo.masters-masters.com/repos/feifeibear/long-context-attention)

feifeibear/long-context-attention, dépôt open source à 696 étoiles sur GitHub. Carte Alpha de RepoMasters. USP: Unified (a.k.a. Hybrid, 2D) Sequence Parallel…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [feifeibear](https://repo.masters-masters.com/owners/feifeibear) |
| Étoiles | 696 |
| Forks | 87 |
| Langage | [Python](https://repo.masters-masters.com/languages/python) |
| Licence | Apache-2.0 |
| Création | 2024 |
| Sujets | attention-is-all-you-need, llm-inference, llm-training, pytorch, ring-attention, deepspeed-ulysses |
| Rang | [Alpha (250 à 699 ★)](https://repo.masters-masters.com/ranks/b_movie) |
| Voir sur GitHub | [feifeibear/long-context-attention](https://github.com/feifeibear/long-context-attention) |

## Fiche du dépôt

USP: Unified (a.k.a. Hybrid, 2D) Sequence Parallel Attention for Long Context Transformers Model Training and Inference

Rang des dépôts qui ont 250 à 699 ★ sur GitHub. Probabilité publiée par carte tirée : 20 %. Rareté : Peu commune.

## Autres dépôts de feifeibear

- [feifeibear/LLMSpeculativeSampling · ★ 927 · Python · Bêta](https://repo.masters-masters.com/repos/feifeibear/LLMSpeculativeSampling)
- [feifeibear/LLMRoofline · ★ 126 · Jupyter Notebook · Prototype](https://repo.masters-masters.com/repos/feifeibear/LLMRoofline)

## D’autres dépôts Python

- [EurekaClaw/EurekaClaw · ★ 696 · Python · Alpha](https://repo.masters-masters.com/repos/EurekaClaw/EurekaClaw)
- [Ar9av/PaperOrchestra · ★ 696 · Python · Alpha](https://repo.masters-masters.com/repos/Ar9av/PaperOrchestra)
- [Pika-Labs/Pika-H3-Flex · ★ 696 · Python · Alpha](https://repo.masters-masters.com/repos/Pika-Labs/Pika-H3-Flex)
- [stephenmcd/django-forms-builder · ★ 696 · Python · Alpha](https://repo.masters-masters.com/repos/stephenmcd/django-forms-builder)
- [saxix/django-adminactions · ★ 696 · Python · Alpha](https://repo.masters-masters.com/repos/saxix/django-adminactions)
- [perrygeo/simanneal · ★ 696 · Python · Alpha](https://repo.masters-masters.com/repos/perrygeo/simanneal)

---
Données : GitHub · Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage.