Illustration : image publique du projet, pixelisée par RepoMasters. Crédits
BêtaRare

madroidmaq/mlx-omni-server

MLX Omni Server is a local inference server powered by Apple's MLX framework, specifically designed for Apple Silicon (M-series) chips. It implements OpenAI-compatible API endpoints, enabling seamless integration with existing OpenAI SDK clients while leveraging the power of local ML inference.

Propriétaire
madroidmaq (compte personnel)
Étoiles
Étoiles : 745
Forks
Forks : 88
Langage
Python
Licence
MIT
Création
2024
Sujets
mlxopenaiopenai-apisttttsfunction-callingstructured-outputtoolsgenai
Rang
Bêta (700 à 1 999 ★) Ce que veut dire ce rang
Voir sur GitHub

D’autres dépôts Python

Tous les dépôts Python