Illustration : image publique du projet, pixelisée par RepoMasters. Crédits
LTSLégendaire

jundot/omlx

LLM inference server with continuous batching & SSD caching for Apple Silicon — managed from the macOS menu bar

Propriétaire
jundot (compte personnel)
Étoiles
Étoiles : 23 282
Forks
Forks : 2 087
Langage
Python
Licence
Apache-2.0
Création
2026
Sujets
apple-siliconinference-serverllmmacosmlxopenai-api
Rang
LTS (20 000 ★ et plus) Ce que veut dire ce rang
Voir sur GitHub

D’autres dépôts Python

Tous les dépôts Python