Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
StableTrès rare

Michael-A-Kuykendall/shimmy

⚡ Pure-Rust WebGPU inference engine — OpenAI-API compatible, GGUF native, runs on any GPU. No Python. No llama.cpp. Single binary.

Propriétaire
Michael-A-Kuykendall (compte personnel)
Étoiles
Étoiles : 6 007
Forks
Forks : 587
Langage
Rust
Licence
Apache-2.0
Création
2025
Sujets
llamallamacppllm-inferenceollama-apicommand-line-toolggufinference-serverlocal-aimachine-learningapi-server
Rang
Stable (5 000 à 19 999 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de Michael-A-Kuykendall

Les 2 dépôts de Michael-A-Kuykendall

D’autres dépôts Rust

Tous les dépôts Rust