Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
AlphaPeu commune

StartLuxLabs/StartLux-Prism

Fast, exact inference for StartLux-Decision models on NVIDIA GPUs: the released GGUF files on int8 and 4-bit tensor cores, behind the /v1/systemone API, with up to 5.3× lower latency than vLLM in FP8 and bit-identical answers.

Propriétaire
StartLuxLabs (organisation)
Étoiles
Étoiles : 270
Forks
Forks : 5
Langage
Python
Licence
Aucune
Création
2026
Sujets
calibrationcudacuda-graphsdecision-makingggufh200inference-engineint8llm-inferencenvidia
Rang
Alpha (250 à 699 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de StartLuxLabs

Les 3 dépôts de StartLuxLabs

D’autres dépôts Python

Tous les dépôts Python