Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
AlphaPeu commune

AI-Hypercomputer/JetStream

JetStream is a throughput and memory optimized engine for LLM inference on XLA devices, starting with TPUs (and GPUs in future -- PRs welcome).

Propriétaire
AI-Hypercomputer (organisation)
Étoiles
Étoiles : 472
Forks
Forks : 70
Langage
Python
Licence
Apache-2.0
Création
2024
Sujets
gemmagptgpuinferencejaxlarge-language-modelsllamallama2llmmodel-serving
Rang
Alpha (250 à 699 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de AI-Hypercomputer

Les 8 dépôts de AI-Hypercomputer

D’autres dépôts Python

Tous les dépôts Python