PrototypeCommune
DominikBucko/qwen38-flash-next-2x3090
Qwen3.8-Flash-Next on 2× RTX 3090: with 128 GB RAM up to 4,191 tok/s prefill · 111.5 tok/s decode (131K prompt), full 256K window at 2,865 tok/s; with 64 GB RAM 3,410 tok/s prefill · 84 tok/s decode. New: opt-in uncensored mode (runtime abliteration, no new weights).
- Propriétaire
- DominikBucko (compte personnel)
- Étoiles
- Étoiles : 132
- Forks
- Forks : 16
- Langage
- Python
- Licence
- Apache-2.0
- Création
- 2026
- Sujets
- llm-inferencequantizationqwenrtx3090speculative-decodingvllmcpu-offloadingdual-gpufp8int4
- Rang
- Prototype (100 à 249 ★) Ce que veut dire ce rang
D’autres dépôts Python
Tous les dépôts Python- SimpleJev/JevAnyÉtoiles : 132PythonPrototype
- proffitteoy/Mathematician-HumanizerÉtoiles : 132PythonPrototype
- sanjayadanushka712/Ghost-NightÉtoiles : 132PythonPrototype
- jacobian/jellyrollÉtoiles : 132PythonPrototype
- moraes/tipfyÉtoiles : 132PythonPrototype
- zacharyvoase/cssminÉtoiles : 132PythonPrototype