# fkodom/grouped-query-attention-pytorch

<https://repo.masters-masters.com/repos/fkodom/grouped-query-attention-pytorch>

[Accueil](https://repo.masters-masters.com/) › [fkodom](https://repo.masters-masters.com/owners/fkodom) › [grouped-query-attention-pytorch](https://repo.masters-masters.com/repos/fkodom/grouped-query-attention-pytorch)

fkodom/grouped-query-attention-pytorch, dépôt open source à 196 étoiles sur GitHub. Carte Prototype de RepoMasters. (Unofficial) PyTorch implementation of…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [fkodom](https://repo.masters-masters.com/owners/fkodom) |
| Étoiles | 196 |
| Forks | 14 |
| Langage | [Python](https://repo.masters-masters.com/languages/python) |
| Licence | MIT |
| Création | 2023 |
| Rang | [Prototype (100 à 249 ★)](https://repo.masters-masters.com/ranks/rush) |
| Voir sur GitHub | [fkodom/grouped-query-attention-pytorch](https://github.com/fkodom/grouped-query-attention-pytorch) |

## Fiche du dépôt

(Unofficial) PyTorch implementation of grouped-query attention (GQA) from "GQA: Training Generalized Multi-Query Transformer Models from Multi-Head Checkpoints" (https://arxiv.org/pdf/2305.13245.pdf)

Rang des dépôts qui ont 100 à 249 ★ sur GitHub. Probabilité publiée par carte tirée : 70 %. Rareté : Commune.

## Autres dépôts de fkodom

- [fkodom/fft-conv-pytorch · ★ 524 · Python · Alpha](https://repo.masters-masters.com/repos/fkodom/fft-conv-pytorch)
- [fkodom/clip-text-decoder · ★ 119 · Python · Prototype](https://repo.masters-masters.com/repos/fkodom/clip-text-decoder)
- [fkodom/yet-another-retnet · ★ 105 · Python · Prototype](https://repo.masters-masters.com/repos/fkodom/yet-another-retnet)

## D’autres dépôts Python

- [dacnay816y62-hub/fantasy-movie-poster-skill · ★ 196 · Python · Prototype](https://repo.masters-masters.com/repos/dacnay816y62-hub/fantasy-movie-poster-skill)
- [zhezh/kddcup2026\_champion · ★ 196 · Python · Prototype](https://repo.masters-masters.com/repos/zhezh/kddcup2026_champion)
- [Jakeschincariol/chatgpt-youtube-agent-skill · ★ 196 · Python · Prototype](https://repo.masters-masters.com/repos/Jakeschincariol/chatgpt-youtube-agent-skill)
- [patpadgett/corkscrew · ★ 196 · Python · Prototype](https://repo.masters-masters.com/repos/patpadgett/corkscrew)
- [wbond/sublime\_prefixr · ★ 196 · Python · Prototype](https://repo.masters-masters.com/repos/wbond/sublime_prefixr)
- [seomoz/reppy · ★ 196 · Python · Prototype](https://repo.masters-masters.com/repos/seomoz/reppy)

---
Données : GitHub · Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage.