# defilantech/LLMKube

<https://repo.masters-masters.com/repos/defilantech/LLMKube>

[Accueil](https://repo.masters-masters.com/) › [defilantech](https://repo.masters-masters.com/owners/defilantech) › [LLMKube](https://repo.masters-masters.com/repos/defilantech/LLMKube)

defilantech/LLMKube, dépôt open source à 249 étoiles sur GitHub. Carte Prototype de RepoMasters. Kubernetes operator for self-hosted LLM inference across a…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [defilantech](https://repo.masters-masters.com/owners/defilantech) |
| Étoiles | 249 |
| Forks | 43 |
| Langage | [Go](https://repo.masters-masters.com/languages/go) |
| Licence | Apache-2.0 |
| Création | 2025 |
| Sujets | ai, gguf, gpu, inference, kubernetes, kubernetes-operator, llama-cpp, llm, local-llm, nvidia |
| Rang | [Prototype (100 à 249 ★)](https://repo.masters-masters.com/ranks/rush) |
| Voir sur GitHub | [defilantech/LLMKube](https://github.com/defilantech/LLMKube) |

## Fiche du dépôt

Kubernetes operator for self-hosted LLM inference across a heterogeneous GPU fleet: NVIDIA CUDA, AMD Vulkan, and Apple Silicon Metal. Runtimes: llama.cpp, vLLM, TGI, mlx-server. Multi-GPU sharding, model caching, OpenAI-compatible endpoints. Apache-2.0, run across homelab and on-prem fleets, active…

Rang des dépôts qui ont 100 à 249 ★ sur GitHub. Probabilité publiée par carte tirée : 70 %. Rareté : Commune.

## D’autres dépôts Go

- [sriniously/go-boilerplate · ★ 249 · Go · Prototype](https://repo.masters-masters.com/repos/sriniously/go-boilerplate)
- [basecamp/fizzy-cli · ★ 249 · Go · Prototype](https://repo.masters-masters.com/repos/basecamp/fizzy-cli)
- [brig-sh/brig · ★ 249 · Go · Prototype](https://repo.masters-masters.com/repos/brig-sh/brig)
- [dcs-bios/dcs-bios · ★ 249 · Go · Prototype](https://repo.masters-masters.com/repos/dcs-bios/dcs-bios)
- [vrischmann/envconfig · ★ 249 · Go · Prototype](https://repo.masters-masters.com/repos/vrischmann/envconfig)
- [mantl/consul-cli · ★ 249 · Go · Prototype](https://repo.masters-masters.com/repos/mantl/consul-cli)

---
Données : GitHub · Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage.