PrototypeCommune
fkodom/grouped-query-attention-pytorch
(Unofficial) PyTorch implementation of grouped-query attention (GQA) from "GQA: Training Generalized Multi-Query Transformer Models from Multi-Head Checkpoints" (https://arxiv.org/pdf/2305.13245.pdf)
- Propriétaire
- fkodom (compte personnel)
- Étoiles
- Étoiles : 196
- Forks
- Forks : 14
- Langage
- Python
- Licence
- MIT
- Création
- 2023
- Rang
- Prototype (100 à 249 ★) Ce que veut dire ce rang
Autres dépôts de fkodom
Les 4 dépôts de fkodom- fkodom/fft-conv-pytorchÉtoiles : 524PythonAlpha
- fkodom/clip-text-decoderÉtoiles : 119PythonPrototype
- fkodom/yet-another-retnetÉtoiles : 105PythonPrototype
D’autres dépôts Python
Tous les dépôts Python- knoic/ComfyUI-MiniMaxH3-PrefixStreamÉtoiles : 196PythonPrototype
- kusaida/AdwairÉtoiles : 196PythonPrototype
- sepehr071/iran-mcpÉtoiles : 196PythonPrototype
- patpadgett/corkscrewÉtoiles : 196PythonPrototype
- wbond/sublime_prefixrÉtoiles : 196PythonPrototype
- seomoz/reppyÉtoiles : 196PythonPrototype