Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
PrototypeCommune

NaiveAI-Labs/NaiveRT

NaiveRT: a self-contained TP8 inference runtime for the Naive N series on eight Blackwell GPUs with UMMA support. One persistent CUDA graph per rank runs draft, eight-row verify, top-p sampling and cache commit with no host in the loop: 1,700 tokens/s at batch size 1, one-second peaks above 2,000.

Propriétaire
NaiveAI-Labs (organisation)
Étoiles
Étoiles : 114
Forks
Forks : 7
Langage
Python
Licence
Apache-2.0
Création
2026
Rang
Prototype (100 à 249 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de NaiveAI-Labs

Les 2 dépôts de NaiveAI-Labs

D’autres dépôts Python

Tous les dépôts Python