PrototypeCommune
HamzaElshafie/gpt-oss-20B
A PyTorch implementation of the GPT-OSS-20B architecture. All components are coded from scratch: RoPE with YaRN, RMSNorm, SwiGLU with clamping and residual connection, Mixture-of-Experts (MoE), Self-Attention with learned sinks, banded attention, GQA, and KV-cache.
- Propriétaire
- HamzaElshafie (compte personnel)
- Étoiles
- Étoiles : 238
- Forks
- Forks : 18
- Langage
- Python
- Licence
- Apache-2.0
- Création
- 2025
- Rang
- Prototype (100 à 249 ★) Ce que veut dire ce rang
D’autres dépôts Python
Tous les dépôts Python- APUS-AI-Lab/fast-browser-useÉtoiles : 238PythonPrototype
- RISE-X-Lab/SPROUTÉtoiles : 238PythonPrototype
- NoizAI/WorldSonusÉtoiles : 238PythonPrototype
- jazzband/django-mongonautÉtoiles : 238PythonPrototype
- charettes/django-mutantÉtoiles : 238PythonPrototype
- shackenberg/Minimal-Bag-of-Visual-Words-Image-ClassifierÉtoiles : 238PythonPrototype