PrototypeCommune
NaiveAI-Labs/NaiveRT
NaiveRT: a self-contained TP8 inference runtime for the Naive N series on eight Blackwell GPUs with UMMA support. One persistent CUDA graph per rank runs draft, eight-row verify, top-p sampling and cache commit with no host in the loop: 1,700 tokens/s at batch size 1, one-second peaks above 2,000.
- Propriétaire
- NaiveAI-Labs (organisation)
- Étoiles
- Étoiles : 114
- Forks
- Forks : 7
- Langage
- Python
- Licence
- Apache-2.0
- Création
- 2026
- Rang
- Prototype (100 à 249 ★) Ce que veut dire ce rang
Autres dépôts de NaiveAI-Labs
Les 2 dépôts de NaiveAI-Labs- NaiveAI-Labs/Naive-N0.5-FlashÉtoiles : 382PythonAlpha
D’autres dépôts Python
Tous les dépôts Python- Fryankarangora/MantleFenghuangÉtoiles : 114PythonPrototype
- zensers/zensersÉtoiles : 114PythonPrototype
- Toyaspio/maibot-baidu-searchÉtoiles : 114PythonPrototype
- leah/django-elsewhereÉtoiles : 114PythonPrototype
- fschulze/mr.developerÉtoiles : 114PythonPrototype
- cloudkick/libcloudÉtoiles : 114PythonPrototype